18世纪的行为学是指研究伦理的科学。1854年最早持进化论观点的法国著名生物学家若弗鲁瓦·圣·伊莱尔，首次将这个词用来指研究动物在其自然栖息地中特性的科学。
在相当长的一个时期，行为学和生态学常被混淆。19世纪的海因罗特、费伯和斯波尔丁都可称为最早的行为学家。20世纪30年代以后，洛伦茨和廷伯根等人在鸟类行为方面的研究和发现，丰富和发展了行为学。
行为学是从以下几个方面来研究动物行为的：分析动物的整个行为序列；剥夺学习机会的实验；比较系统上相近的物种的行为的相似性，研究其演化上的关系；杂交实验，研究基因的决定性；观察和分析物种特异行为和它们的生存条件的关系，研究其适应价值。
近几年，由威尔逊提出的社会生物学的研究，如动物种群的组织，个体之间的交往手段，雌雄关系，亲子关系；利他行为等等，都属于行为学的范围。行为学强调决定行为的进化因素，即基因和自然选择的作用。行为学家试图通过研究在自然或半自然环境中生活的动物去了解动物的行为，他们从事研究的主导思想是由于自然选择的结果，每个动物的行为都具有一定的适应意义。
行为可以分析成为许多固定的运动序列。它们可以被内外环境的适当刺激触发。因此可以在适当场合下出现。所以，他们注重研究能够直接与自然选择联系起来的天生的或本能的行为模式。行为学家经常描述的动物的动作称为“固定动作模式”，其性质是：在一个种内(特别是在同性个体中)其表现形式是极端一致的；可能是天生的；个体每次重复这些行为时，形式都是一样的；每当被激活后总要全部表演出来；不易改变。
大量行为学的研究集中在辨认触发固定动作模式的特殊环境刺激上。这些刺激称为暗号刺激或释放者。释放者和固定动作模式一样，也是种族特异化的。这就是说，同一个释放者。在种的同性个体中引起同样的固定动作模式。暗号刺激也可能是其他动物的，特别是种内其他成员的某些身体结构、声音、气味或行为。在许多动物中，暗号刺激和固定动作模式是连锁起来的，如在社群行为中，种内一个成员的固定动作模式可以是别的成员的另一种固定动作模式的释放者。
行为学家持进化论的观点，他们从行为的生存价值上来研究行为的功能意义，从比较各种动物功能上或形式上类似的行为中，探索行为的演化。他们提出的仪式化的行为，指的是原来表现不甚规范的动作模式在进化过程中逐渐变为非常定型的行为，被称为展示行为。它的价值在于能更明确地传达特殊的信息给信号接收者。例如，一只斗败的公鸡遇见取胜的公鸡，在一定距离之内即表现曲颈、低头和两翅高举的姿态。这样的行为表现可能更明确地给胜利者以投降或屈服的信号，使胜利者不再向它进攻。
他们提出的替换行为，是指一个动物面临两种可以引起两种互相冲突的行为刺激时，所出现的一种与两种刺激全无关联的行为。例如一只鸥既欲坐在窝里，又想逃避猎者，这时，它出现了一种与坐窝和逃走全然不相干的啄羽毛的行为。有人认为在人类也常表现这类行为，如当一人面临两种可选择的决策而举棋不定时，会挠头抓耳。
这种行为可能也是由进化而来，并且有消除紧张的作用。关于在进化过程中，经过自然选择的动物的展示行为，它们的来源，最初的信号意义，后来的演化以及现在的信号含义等行为学的研究，可以苍鹭的两种行为表示为例加以说明。
哒嘴，表示来源于替换地收集小树枝的行为。最初表示雄性占有了适合筑巢的地方；后来变为定型的夸张的并带有声音(听觉成分)的行为；现在它表示雄性已准备好接受雌性的求婚；
伸颈，表示来源于预备起飞的行为。最初表示雄性护巢的攻击性行为已经缓和下来；后来变为定型的、夸张的并在自然选择过程中获得了特别的羽毛、嘴和眼睛的颜色：以加强这种表示的效果，现在表示雄性要配对行为学家也研究个体行为的习得成分。
他们发现了所谓“印刻”式的学习，提出在个体发育过程中有关这类学习能力的关键期的问题。例如，小鸭往往会跟着一个运动的物体走，这是一种习得的行为，而且往往是跟孵出后最初几小时所看见的东西走，这种习得的行为似乎能保持很久，甚至终生不忘。最初的视觉印象就仿佛打在脑中的烙印一样。但这种“印刻”只能在发育过程中的某一段时间内才发生，这段时间就称为关键期。
当然各种动物对各种刺激的印记的关键期也各不相同。关于关键期的概念已广泛地引入神经系统的发育和行为的研究中。但印刻式学习是否与条件作用有本质区别，研究者们已有不同的看法。