第一章 概论
一、行为生态学的概念
行为学（ethology）和生态学（ecology）是生物科学中两个正在蓬勃发展的分支学科，而行为生态学（behavioural ecology）则是这两个学科的交叉领域。行为学和生态学一方面各自独立地发展，一方面又日益相互渗透，形成了行为生态学这一新的研究领域。虽然早在20世纪30年代已有人注意到了动物的行为和生态学之间的相互关系，但直到三四十年前，行为学和生态学之间的密切关系才开始受到普遍的重视。这一新领域的研究历史虽然极其短暂，但已取得了明显进展，并已逐渐发展成为一门不仅涉及行为学和生态学，而且也涉及生理学、心理学、遗传学、进化论、社会学和经济学的综合性学科。
行为学家从行为学的角度提出了生态行为学（ecoethology），而生态学家则从生态学的角度提出了行为生态学。研究问题的角度虽然不同，但都进入了同一领域，总的目标是一致的，都是研究行为和生态的关系。从两个方面同时逼近这一领域，将会加速这一领域的研究进展，使其日臻完善。
生态行为学主要研究动物的行为与其环境之间的相互关系，它或是着重研究一个彼此有亲缘关系的动物类群，或是着重研究同一生境内的各个物种。如果是研究一个亲缘类群，则主要兴趣是查明不同物种之间存在着哪些行为差异，这些差异又如何表现为对不同生境的适应，倘若其中有一个物种生活在一个与其他物种完全不同的生境中，而且它的行为也大大偏离了该类群动物的典型行为的话，那么常可由此得出一些特别有意义的结论。如果是研究一个生境（如热带雨林或沙漠），则主要兴趣是研究生活在该生境内的物种所发生的平行行为适应，由于这些物种一般不具有密切的亲缘关系，因此这些行为就可以被看成是该特定生境内的典型行为。
行为生态学主要是研究生态学中的行为机制和动物行为的生态学意义和进化意义，即研究动物的行为功能，存活值（survival value）、适合度（fitness）和进化过程。动物的行为特性也与动物的形态特性和生理特性一样，不仅同时受到遗传和环境两方面的影响，而且也是在长期进化过程中通过自然选择形成的，因而同样具有种的特异性。有时，两个在形态上难以区分的物种，却可以通过不同的行为型加以辨识。在自然界，行为型也常常是近缘物种的种间隔离和种间辨识的一个重要方面。研究动物的行为必须充分注意到行为的进化方面，达尔文在卓越地论证了生物形态进化的同时，也在1859年出版的《物种起源》（第八章，“本能”）和1872年出版的《人类及动物的表情》等著作中，充分注意到了行为的进化。尽管达尔文在世时，对一些行为现象（如利他行为和中性不育昆虫的行为）尚不能从理论上给以满意的解释，但达尔文坚信，不管表面看来是多么复杂和多么不可思议的行为，都必定经历过一个进化和自然选择过程。事实证明，特别是行为生态学的最新发展证明，达尔文的观点是正确的。直到现在，达尔文的自然选择进化学说仍然是研究行为和行为生态学最锐利的思想武器。行为生态学又可细分为取食行为生态学、防御行为生态学、生殖行为生态学、社会行为生态学、学习行为生态学、通信行为生态学、时空行为生态学（如生境选择、定向和导航、巢域和领域现象等）、植物行为生态学和最适行为预测等内容。其中的社会生态学（socioecology）或社会生物学（sociobiology），在20世纪后期取得了突出的发展。K.Lorenz对鸟类社会行为的研究，N.Tinbergen对人类社会行为的研究和K.von Frisch对蜜蜂社会行为的研究奠定了社会生态学的基础。1975年，E.O.Wilson出版了Sociobiology一书，系统地介绍了社会生态学这一行为生态学分支学科的观点、理论体系和研究方法。社会生态学把达尔文自然选择的概念应用于社会行为的研究，又把生态学、行为学、遗传学和进化论加以综合，提出了广义适合度（inclusive fitness）和亲缘选择（kin selection）的新概念，从而把利他行为（altruistic behaviour）和自私基因（selfish gene）统一了起来，认为行为是某些基因型的反映，种群内个体的行为可使广义适合度达到最优状态。这些新概念不仅丰富和发展了达尔文的自然选择学说，而且也把动物社会行为的研究提高到了一个新高度。行为生态学渊源于20世纪60年代初期发展起来的四个思想派别，即：
①英国的T.H.Crook和D.Lack把鸟类和猿猴类的社会组织同各种生态因素联系起来加以研究，提出了比较研究论；
②W.D.Hamilton和J.Maynard Smith明确提出了亲缘选择和广义适合度的概念；
③N.Tinbergen等人用简单的田间试验或观察法确立了测定行为存活值的程序；
④R.H.MacArthur及其同事牢固地确立了这样的信念：生态学中关于进化的各种假说可以用精确的数学方法表达，MacArthur对数学生态学有很多重要贡献；他所使用的两个概念，即最适性理论和进化稳定对策特别适用于行为生态学。
以上四个学派对行为生态学的产生和发展做出了突出贡献。
二、行为生态学研究简史
1973年，K.Lorenz（1903-1989），N.Tinbergen（1907-1988）和K.von Frisch（1886-1982）三人因对动物行为的卓越研究而分享了当年的诺贝尔医学奖，这是诺贝尔奖第一次授予行为学家，从而大大推动了行为学和行为生态学的发展。行为生态学是生态学中最年轻的一个分支学科，至今只有三四十年的研究史，但这门学科一经问世便显示了强大的生命力，在国际上已成为一门颇受重视的热门学科，据不完全统计，到1990年年底已发表论文和文章近千篇。行为生态学的一个重要特点就是把生态学同行为学、遗传学和进化论结合在一起，并引入经济学思想和方法，探索新的理论。由于综合了多学科的研究成果，在短短的十几年内就在新理论和新概念的探索上有所建树，并已开始形成自己的理论体系。
1978年，在英国出版了第一本行为生态学论文集Behavioural Ecology：An Evolutionary Approach，1984年该论文集经过修改和补充后又出了第二版，1991年出了第三版。该书邀请各个领域的专家撰写，具有很高的权威性。1981年，第一本比较全面系统地介绍行为生态学理论和内容的专著An Introduction to Behavioural Ecology问世，该书出版后十分畅销，并于1982年、1983年和1985年三次重印，1987年出了第二版，1992年又出了第三版。该书综合了大量文献资料，总结了行为生态学研究的各个方面，基本反映了当时行为生态学研究的现状和水平，对推动行为生态学的进一步发展发挥了重要作用。
1984年4月10-12日，英国生态学会在Reading大学召开了第25次生态学专题学术讨论会，即行为生态学专题学术讨论会，参加这一讨论会的人数多达500人，这一数字充分显示了人们对行为生态学研究的兴趣和重视程度。这次讨论会的论文集于1985年出版，共收集论文34篇（提交大会的论文和研究简报共93篇），除7篇评论性论文外，其他论文都是研究动物的各种行为与种群动态的关系。
1985年又有一本新著作出版，即《实验行为生态学和社会生物学》。该书是为纪念现代行为学奠基人之一、诺贝尔奖获得者K.von Frisch而出版的，实际上是1983年10月17-19日在Mainz召开的一次国际学术讨论会的论文集。这次学术讨论会集中讨论了蜜蜂、蚂蚁，胡蜂、等足类、鸟类、灵长类和食虫类的各种行为生态学问题，如蜜蜂舞蹈语言研究的最新进展，蜜蜂的学习能力和觅食的信息中心对策，蚂蚁生殖的社会生物学，鸟类的生殖合作，猿猴社会的互助、合作和利他主义等。全书共收集论文28篇，其中关于社会性昆虫（特别是蜜蜂）方面的论文最多。
1991年8月22-29日在日本京都的Otani大学举行了第22届国际行为学学术会议，这是第一次在亚洲举行的行为学国际会议，它对促进亚洲国家行为学和行为生态学的发展起到了重要作用。这次会议的内容可概括为以下几个方面：①灵长类动物的社会策略；②性的经济学；③应用行为学；④行为机制；⑤动物社会行为的进化；⑥交配体制和交配对策；⑦行为决策。参加这次国际行为学大会组织工作的除日本科学院和农林渔业部外，还有13所大学。这13所大学都在从事行为学和行为生态学方面的研究工作，而且这些大学都各有侧重并有自己的特点。如Kyoto大学的海洋动物行为生态学和应用行为学，Sophia大学的神经行为学，Nagoya大学的行为生态学，Osaka大学的人类行为学，Showa女子大学的拟态行为，Niigata大学的普通行为生态，Osaka城市大学的哺乳动物、鸟类和鱼类的社会学，Tokyo大学的动物通信行为，Chukyo大学的鱼类行为学，Musashi大学的灵长类行为学和Miyazaki大学的应用行为学研究等。目前，欧美各国的主要大学都在从事行为学和行为生态学研究。
从期刊出版情况来看，行为学和行为生态学的发展也是很快的。1947年只有一种行为学期刊即《行为》，发展到70年代末已出版发行二十多种行为学和行为生态学期刊，几乎每年增加一种，特别是70年代发展最快，新增期刊十多种。现将国外有关行为学和行为生态学的期刊名称及其创刊年份列举如下：①Behaviour（《行为》）（1947）；②Animal Behaviour（《动物行为》）（1953）；③British J ournal of Animal Behaviour（《英国动物行为杂志》）（1953）；④Insect Society（《昆虫社会》）（1954）；⑤Behavioural Science（《行为科学》）（1956）；⑥Experimental J ournal of Animal Behaviour（《动物行为实验杂志》）（1963）；⑦J ournal of Experimental Analysis to Behaviour（《行为实验分析杂志》）（1964）；⑧Physiology and Behaviour（《生理学和行为》）（1966）；⑨Brain,Behaviour and Evolution（《脑、行为与进化》）（1970）；⑩Learning and Motivation（《学习与动机》）（1970）；[11]Advance of Behaviour（《行为研究进展》）（1971）；[12]Behaviour Genetics（《行为遗传学》）（1971）；[13]Learning and Behaviour of Animal（《动物的学习与行为》）（1973）；[14]Ap plied Ethology（《应用行为学》）（1975）；[15]Animal Behavioural Process（《动物行为过程》）（1975）；[16]Bird Behaviour（《鸟类行为》）（1977）；[17]Behaviour,Ecology and Sociobiology（《行为、生态学与社会生物学》）（1977）；[18]Behaviour and Brain Science（《行为和脑科学》）（1978）；[19]Behaviour（《行为学》）（1978）；[20]Ethology and Sociobiology（《行为学与社会生物学》）（1980）。我国还没有专门的行为学和行为生态学期刊出版，这也反映了我国在这一领域研究方面的落后状态，这与我国的国力和大国地位是很不相称的。我国生态学工作者面临着填补学科空白和赶上世界先进水平的艰巨任务。
三、我国行为生态学发展现状
在20世纪后期，行为生态学的研究在国外也只有三四十年的历史时，我国的相关研究则刚刚处于启蒙和起步阶段。在这方面，《生态学》杂志发挥了重要作用，从1984年起连续刊载《行为生态学讲座》25讲（尚玉昌，1984a～d；1985a～f；1986a～d；1987a～c；1988a～d；1989a～b；1990a～b）。《生态学进展》《应用生态学报》《生物学杂志》和《生物学通报》等学术刊物也陆续刊载了《动物行为学讲座》和有关行为生态方面的文章（尚玉昌，1983；1985g；1986e～g；1987d～e；1989c；1990d；1991a）。在马世骏主编的《现代生态学透视》（科学出版社，1990）一书中专门有一章介绍行为生态学（尚玉昌，1990c）。上述系列讲座和文章比较全面地介绍了现代行为生态学的基本理论、研究方法和研究内容，涉及行为生态学的一些基本概念和研究领域，如进化稳定对策（ESS）、比较研究法、最适性理论、亲缘选择和广义适合度、最优觅食对策、防御行为生态、社群生活的利弊分析、昆虫社会经济学、动物行为热调节、领域行为预测和领域的可保卫性、生境选择、性的生态学问题、性选择和交配体制、动物的生殖合作以及动物的信号与通信等。周波（1988，1990）和李金明（1988）撰写了普及行为生态学知识的文章。范志勤于1988年出版了一本通俗读物《动物行为》，该书介绍了动物行为学研究的一些领域，如定向导航、生殖行为、节律、本能与学习、行为进化和行为生理等，对动物行为知识的普及发挥了一定作用。
三四十年前，在我国，真正意义上的行为生态学研究工作还极少，如果把凡是涉及行为与生态关系的研究都算作行为生态学研究的话（不管作者是否意识到了这点），在20世纪末近十多年里大致做过如下一些工作，这些工作主要是集中在哺乳动物（特别是灵长类和大熊猫）、鸟类和昆虫方面。在哺乳动物方面，姜永进（1989）的硕士论文《甘肃鼠兔的社会行为及其对高寒特殊生境的适应》和苏建平、王祖望（1990）的《高原鼢鼠挖掘取食活动的能量代价及其最佳挖掘取食行为》是两篇比较好的行为生态学论文。李致祥等（1981）、史东仇等（1982）、木文伟等（1982）、白寿昌等（1987）、吴宝琦（1988）曾研究了我国特产珍稀动物金丝猴的社会结构、活动特点、食性、生殖行为、保护行为和活动路线，并把滇金丝猴的活动区分为漫游区和核心区两部分。江海声等（1990）和李朝达等（1982）研究了野生猕猴的通信行为，并对不同年龄猕猴的反转学习进行了比较研究。阮世炬（1983）、叶志勇（1984）、胡锦矗（1987）和朱靖等（1987）则研究了大熊猫的野外觅食行为、性行为和昼夜活动规律，并对大熊猫发情期的叫声及其行为学意义进行了分析，总共可区分出13种不同的叫声，其行为学意义可归纳为三点：①受到威胁和临危防范；②领域标记和寻偶；③生殖、发情和抚幼。在其他灵长类方面，郑荣洽（1988）和扈宇等（1990）分别研究了黑长臂猿的交配行为和白颊长臂猿的食性。
在鸟类方面，我国是雉鸡种类最丰富的国家，特产种类也最多，因此，第四届国际雉类学术讨论会于1989年在我国北京举行。20世纪末在我国自然科学基金的资助下完成了一些课题研究，如郑光美等（1985，1986）、张军平等（1990）研究了黄腹角雉的觅食基地、觅食活动和食性、求偶炫耀行为、孵卵行为、巢区以及种群数量和种群结构等；卢汰春等（1986）、何芬奇等（）研究了绿尾虹雉的活动规律、冬季行为特点、生殖行为和叫声的声谱分析；丁平和诸葛阳（1985,1988，1990）对白颈长尾雉进行了观察和研究，包括雌雄配对行为、筑巢和孵卵行为及其他生殖行为；刘迺发等（1990）研究了高山雪鸡的生殖行为如生殖期、卵和巢、孵化与雏鸟、食物与天敌和活动规律等。此外，对其他雉类，如白腹锦鸡（杨炯蠡，1981）、蓝马鸡（郑武生，1983），褐马鸡（刘如笋，1986）和斑尾榛鸡（王香亭，1987）等的生殖行为和觅食行为也进行过一些观察。在其他鸟类方面，江望高等（1983）研究了三宝鸟繁殖期的领域行为，如鸣叫与巡行、对入侵者的反应和争夺栖位等，并计算了领域面积及其变化；宋榆钧（1983）研究了煤山雀的迁移动态和巢前期、巢期、卵期、雏期的行为及食性；赵正阶（1981a,b）研究了白腹蓝鹟的繁殖行为、占区和营巢条件、产卵和食性，还研究了金腰燕的迁移、生殖季节、窝卵数、生殖成效和生产力等；卢欣（）研究了大苇莺的繁殖周期、窝卵数及其变化、营巢成效、卵和雏鸟的损失等；李文发等（1990,1990）研究了红嘴鸥的占区、筑巢、产卵和孵卵行为；尚玉昌和李留彬（1994）研究了灰喜鹊的生殖行为生态，首次研究了鸟类的发育行为谱和对外来卵的识别能力以及对巢内卵数变化的敏感性。
国内对两栖类和爬行动物的研究中，江耀明等（1980）研究了青海沙蜥的洞穴结构、活动规律、觅食行为和生殖习性等；杨大同等（1990）研究了中国蝾螈科两栖动物的反捕行为；沈猷慧等（1986）研究了大树蛙的繁殖期、产卵场、产卵时间、性比和交配行为。
在昆虫和其他无脊椎动物方面，陈若篪（1979）研究了褐飞虱的迁飞行为和迁飞规律，这对于掌握褐飞虱的年生活史和制定防治措施具有重要意义；蔡晓明等（1980a,b）、尚玉昌等（1980，1981）和阎浚杰等（1983，1987）首次发现和研究了七星瓢虫的群聚和迁飞行为，证明了每年6月上旬在渤海沿岸出现的大量群聚瓢虫与瓢虫种群定期自南向北迁飞有关；程量（1987）研究了蚁类在不同生境中的觅食规律，分析了觅食活动的周期变化；宋宗臣（1984）、刘连珠（1986）和黄复生（1988）等人研究了大劣按蚊在自然条件和实验条件下的交配和产卵行为以及吸血活动与交配受精的关系；李文谷（1981）、伍德明（1986）和杜家伟（1988）分别研究了红铃虫、大螟和三化螟与信息素有关的行为，如性信息素对红铃虫雄蛾近距离性行为的抑制效应、大螟雄蛾触角对性信息素的生理反应和三化螟的求偶行为等；赵敬钊等（1980）研究了三突花蛛的交尾、产卵、护卵行为、寿命和性比等；薛瑞德等（1986）研究了家蝇巨螯螨的侵袭行为及其对蝇类的影响。在海洋无脊椎动物方面，王文雄（1990）研究了海洋瓣鳃类幼体的趋性行为，分析了环境因子对趋性行为的调节作用。
当时在国内，虽然在行为生态学方面也做了一些工作，但大部分工作是属于繁殖习性和社会行为的观察、食性的分析和生活史的描述，多属经典描述性质的研究，缺乏创新和新观点、新理论的指导，在研究方法和指导思想上比较陈旧，而行为生态学无论是在理论上还是在方法上都有了很大突破，产生了很多理论、观点和方法，如：①ESS理论（即进化稳定对策）；②比较研究法，即对近缘物种的行为和社会结构与其生态条件联系起来进行比较研究，以确定行为的适应性；③动物行为存活值和适合度的定量测定法；④经济学思想和方法（如投资—收益分析）在行为生态学中得到普遍应用（行为分析的经济观）；⑤行为分析的基因观（利他行为、亲缘选择和广义适合度）；⑥最适理论和最适模型的运用；⑦博弈论已成为分析动物行为的一个极有用的理论工具；⑧关于两性利益冲突的新观点；⑨关于种群多对策的新概念；⑩三种选择理论（个体选择、亲缘选择和群选择）；[11]生活史对策；[12]信号仪式与通信理论；[13]行为、生态、遗传、进化的综合分析方法。在90年代末期时，以上这些思想、概念、方法和理论在国内的研究工作中基本尚未得到应用，也没有注意到或还没有来得及注意到这一领域的发展。我们的研究路子基本上没有什么太大变化，而国外同一领域新东西却层出不穷、蓬勃发展，也许这就是我们和国外研究水平的主要差距。在1991年，尚玉昌撰写并发表了《中国行为生态学发展战略研究》一文（1991），该文刊载在马世骏主编的《中国生态学发展战略研究》（中国经济出版社，1991）一书中。该文不仅论述了行为生态学的产生和发展、国外行为生态学的研究进展与发展趋势和我国行为生态学的发展现状，而且还论述了该学科在我国的战略地位，提出了行为生态学在我国发展的中、近期战略方向和目标，以及“八五”期间我国应优先资助发展的前沿课题，最后还提出了我国应采取的可行的战略措施建议。该文是在国家自然科学基金会和中国生态学会的支持和组织下经过专家审议后发表的，所以当时对我国行为生态学的发展具有战略指导意义。
四、行为生态学研究的主要内容、观点及发展趋势
行为生态学研究的主要内容和观点可概括为以下几个方面：
行为功能是指行为对动物生存和生殖的影响，行为功能是以行为的存活值和适合度来度量的。试验表明，动物的行为差异是由基因差异引起的，自然选择总是最有利于那些能够最有效地把自身基因传递到未来世代的个体。基因传递通常是通过个体直接参与生殖的方式，但也可以间接借助于体内含有共同基因的其他个体（亲属）的生殖，因此，动物对自己的亲属普遍表现出利他行为，因为利他行为在一定条件下对传递利他者自身的基因有利，但在基因利益上绝不会有利他现象，也就是说，自然界只会有利他行为，而不会有利他基因。在进化期间，生态条件将决定什么行为对动物的生存和生殖最为有利。这方面的主要研究工作有：Parcker和Pusey（1983）的“Adaptations of female lions to infanticide by incoming males”（雌狮对雄狮杀婴的适应）；Arnold（1981）的“Behavioural variation in natural populations”（自然种群的行为变异）；Wynne-Edwards（1986）的“Evolution through group selection”（借助于群选择的进化过程）；Hogstedt（1980）的“Evolution of clutch size in birds：adaptive variation in relation to territory quality”（鸟类窝卵数的进化：与领域质量有关的适应性变异）；Bell（1980）的“The costs of reproduction and their consequences”（生殖投资及其结果）等。
进化稳定对策是行为生态学中最重要的概念之一，也是自达尔文以来进化理论最重要的发展之一。如果种群中的大多数个体都采取某种行为对策，而这种对策的好处又为其他对策所不及，这种对策就可称为ESS。在环境的每次大变动之后，种群内可能出现一个暂时的不稳定阶段，但是一种ESS一旦确立下来，种群就会趋于稳定，任何偏离ESS的行为就会被自然选择所淘汰。目前，这一理论已广泛地用于研究仪式化战斗问题、求偶场问题和生境选择问题等。进化稳定对策使我们第一次能够清楚地看到一个由许多独立的自私实体所构成的群体（如种群）是如何能最终变成为一个稳定的、有组织的实体。这一过程不仅适用于物种内的社会组织，很可能也适用于由许多独立物种所构成的群落和生态系统。Darkins认为，ESS的概念将会使生态学发生彻底的变革。这方面的主要研究工作有Maynard Smith（1982）的“Evolution and the theory of games”（进化与博弈论）；Darkins（1980）的“Good strategy or evolutionarily stable strategy？”（是有效对策还是进化稳定对策？）；O’Donad（1982）的“Population genetics and fitness concept in sociobiology”（种群遗传学和社会生物学中的适合度概念）；Parker（1982）的“Phenotype-limited evolutionarily stable strategies”（限于表现型的进化稳定对策）；Andersson（1982）的“Sexual selection,natural selection and quality advertisement”（性选择、自然选择和素质广告）；Parker（1983）的“Arms race in evolution：an ESS to the opponent-independent costs game”（进化军备竞赛——对敌手的ESS）；Rubenstein（1982）的“Risk,uncertainty and evolutionary strategy”（风险、非确定性和进化对策）；Hammerstein（1982）的“The asymmetric war of attrition”（非对称的消耗战）等。
比较研究法是对近缘物种的行为和社会组织进行比较分析，找出这些物种的行为和社会结构差异与它们生态学差异之间的关系。从这些相关分析中就可以推断出行为特征的适应意义。这一研究方法已在文鸟、羚羊和灵长类社会行为的研究中得到应用，得出的主要结论是：决定社会结构和社会行为进化的主要生态因素是食物的数量和分布、捕食者的压力和配偶竞争等。这些因素不仅影响社群的大小，而且也影响交配行为和性二型的分化。这方面的主要工作有Clutton-Brock和Harvey（1984）的“Comparative approaches to investigating adaptation”（用比较法研究动物的适应性）；Jarman（1982）的“Prospects for interspecific comparisons in sociobiology”（社会生物学中的种间比较研究展望）；Damuth（1981）的“Population density and body size in mammals”（哺乳动物的种群密度与身体大小）；Gattleman（1983）的“Behavioural ecology in carnivores”（食肉动物的行为生态学）。
从经济学角度看，动物的任何一个行为都会给动物带来一定的收益，同时动物也会为此付出一定的代价（投资）。自然选择总是倾向于使动物从它们的行为中获得最大的净收益（净收益=收益-投资）。衡量净收益的最终标准是测定基因对未来世代贡献的大小，而这种贡献又决定于动物近期的行为表现，如觅食效率、生殖成功率和反捕行为的有效性等。行为生态学家经常靠建立最适模型（如椋鸟育雏期间的最佳运食量模型、蜜蜂最佳载蜜量模型和最适领域大小模型等）来预测在行为的投资和收益之间应做出怎样的决策才能获得最大的净收益。这方面的主要研究工作有：Kacelnik和Cuthill（1987）的“Starlings and optimal foraging theory”（椋鸟和最适觅食理论）；Charnov（1976）的“Optimal foraging：the marginal value theorem”（最优觅食：边缘值理论）；Schoener（1983）的“Simple models of optimal feeding-territory size：a reconciliation”（最适取食领域大小的简单模型）；Hodges和Wolf（1981）的“Optimal foraging bumblebees？Why in nectar left behind in flowers？”（熊蜂是否采取最优觅食对策？）；Lima（1984）的“Downy woodpecker foraging behaviour：efficient sampling in simple stochastic environments”（绒毛啄木鸟的觅食行为）；Snyderman（1983）的“Optimal prey selection：the effects of food deprivation”（最优猎物选择：资源消耗效应）；Kamil等（1987）的“Foraging behavior”（觅食行为）等。
对鸟类捕食隐蔽性猎物所做的试验表明：①猎物的隐蔽性的确可以减少捕食者对它的捕食，而猎物种群的多态现象则可有效地干扰捕食者搜寻印象（search image）的形成（以蓝鸟和勋授夜蛾为试验对象）；②猎物隐蔽性稍加改进便能增加捕食者的辨认时间，从而给被食者带来好处，这可以被看成是协同进化的一个起点。试验还表明：如果一个有毒和不可食的猎物身着鲜艳的色彩而不是隐蔽色，那么捕食者就能更快地学会拒食这种猎物，这就是警戒色在自然界如此普遍存在的原因。这方面的主要研究工作有Pietrewicz和Kamil（1981）的“Search image and detection of cryptic prey：an operant approach”（搜寻印象和隐蔽猎物的发现）；Sargent（1981）的“Antipredator adaptations of underwing moths”（翼下蛾的反捕适应）；Schlenoff（1985）的“The startle responses of blue jays to Catocala prey models”（蓝鸟对勋授夜蛾模型的惊吓反应）；Erichsen等（1980）的“Optimal foraging and cryptic prey”（最适觅食行为和隐蔽猎物）；Guilford（1986）的（警戒色如何起作用？）；Guilford（1985）的“Is kin selection involved in the evolution of warning coloration？”（警戒色的进化是否与亲缘选择有关？）；Rothstein（1975）的“Evolutionary rates and host defences against avian brood parasitism”（进化速率与寄主对鸟类巢寄生者的防御）等。
动物对资源的竞争可分为两种类型：一类是纯利用竞争（pure exploitation），另一类是排他性的资源保卫。纯利用竞争的简单模式就是竞争者在资源之间的理想自由分布（ideal free distribution）。此外，经济可保卫性也是一个非常有用的概念。从这一概念出发可以确定动物在什么时候保卫资源才是有利的。将理想自由分布和经济可保卫性两个概念结合起来去研究动物活动的时间分配，就可以预测在什么条件下领域行为将会发生或不发生，同时也可预测领域的最佳大小。这方面的主要研究工作有Milinski（1979）的“An evolutionary stable feeding strategy in sticklebacks”（刺鱼取食的进化稳定对策）；Milinski（1984）的“Competitive resource sharing：an experimental test of a learning rule for ESSs”（竞争性的资源共占：ESS的一个学习规则检证）；Gill和Wolf（1975）的“Economics of feeding territoriality in the golden winged sunbird”（金翅太阳鸟取食领域的经济学）；Pyke（1979）的“The economics of territory size and time budget in the golden-winged sunbird”（金翅太阳鸟领域大小和活动时间分配的经济学）；Hixon等（1983）的“Territory area,flower density and time budgeting in hummingbirds：an experimental and theoretical analysis”（蜂鸟的领域面积、花朵密度和时间分配的实验和理论分析）；Houston和MacNamara（1985）的“The choice of two prey types that minimises the probability of starvation”（使饥饿概率降至最小的两种猎物选择）；Harper（1982）的“Competitive foraging in mallards：‘ideal free’ducks”（绿头鸭的竞争觅食）；Reed（1982）的“Interspecific territoriality in the chaffinch and great tit”（燕雀和大山雀的种间领域）等。
社群生活带给动物个体的两个最重要的好处是增加安全性和增加找到或猎得食物的机会。但社群生活也会带来一些不利，如加剧个体间的资源竞争和更易吸引捕食者。社群大小实际反映着上述各种有利和不利方面的权衡结果。但是，最适社群大小受到下列两种情况的限制：①社群中不同的个体受益程度不同，因此它们对最适社群大小的要求也不同，如果实际观察到的社群大小是各种不同要求的折中，那么对任何一个个体来说就都不是最适的；②理论上的最适大小社群常常是不稳定的，因为较小社群中的个体如能加入到最适社群中来就能增加它的适合度。这方面的主要研究工作有Bertram（1980）的“Vigilance and group size in ostriches”（鸵鸟的警戒性与社群大小）；Pulliam和Caraco（1984）“Living in groups：is there an optimal group size？”的（社群生活：是否存在最适大小社群？）；Foster（1985）的“Group foraging by a coral reef fish：a mechanism for gaining access to defended resources”（一种珊瑚鱼的群体觅食）；Galef和Wigmore（1983）的“Transfer of information concerning distant foods：a laboratory investigation of the information centre hypothesis”（远处食物的信息传递：信息中心说的实验研究）；Pitcher等（1982）的“Fish in larger shoals find food faster”（较大的鱼群能更快地找到食物）；Elgar（1986）的“House sparrows establish foraging flocks by giving chirrup calls if the resources are divisible”（麻雀靠叫声建立觅食群）；Giraldeau和Gillis（1985）的“Optimal group size can be stable：a reply to Sibly”（最适大小社群可维持稳定）等。
博弈论（game theory）最初被用于经济学的研究，后来，特别是由于Maynard Smith（1982）的工作，使博弈论成了分析动物行为的极有用的理论工具，因为一个动物所采取的最好的战斗对策往往取决于种群中其他个体的行为表现。进化过程将会导致一个种群产生一个进化稳定对策。利用最适模型可以对战斗行为的投资和收益作出评价，并能算出什么样的对策能够获得最大的净收益。这方面的研究主要有Maynard Smith（1982）的“Evolution and the theory of games”（进化与博弈论）；Packe和Pusey（1982）的“Cooperation and competition within coalitions of mate lions：kin selection or game theory？”（雄狮群内的合作与竞争）；Krebs（1982）的“Territorial defence in the great tit”（大山雀的领域防卫）；Austad（1983）的“A game theoretical interpretation of male combat in the bowl and doily spider,Frontinella pyramitela”（雄性bowl蛛和doily蛛战斗的博弈论解释）；Roskaft等（1986）的“The relationship between social status and resting metabolic rate in great tits and pied flycatchers”（大山雀和杂色鹟的社会状态与静止代谢率之间的关系）；Yasukawa和Bick（1983）的“Dominance hierarchies in dark-eyed j uncos：a test of a game theory model”（黑眼灯芯草雀的优势等级：对博弈论模型的检验）；Caldwell（1985）的“A test of individual recognition in the stomatopod,Gonodactylus festae”（虾蛄个体识别的检验）等。
行为生态学把两性之间的利益冲突视为有性生殖的核心问题，雌、雄性的基本差异在于配子的大小。雄性个体产生的配子极小，可被看成是雌性大配子的寄生者。由于精子极多、极小，因此雄性个体可以靠与多个雌性个体交配而增加其生殖成功率。这样就使雌性个体成了雄性个体互相争夺的稀缺资源，雄性的求偶行为就是出于争夺配偶的需要。通常，雌性个体不急于选定配偶，为的是最终能选择一个具有优质基因和占有高质量资源的异性做配偶。关于性选择，目前存在三个主要理论，即达尔文的理论、Fisher的理论和Trivers的理论。性选择的研究则包括多配偶动物的性选择、单配偶动物的性选择、性选择与多态现象、选型交配与非选型交配以及雌性动物的择偶标准等。这方面的研究工作主要有Trivers（1985）的“Social evolution”（社会进化）；Emlen等（1986）的“Sex-ratio selection in species with helpers-at-the-nest”（巢中有帮手物种的性比选择）；Alexander和Borgia（1979）的“On the origin and basis of the male-female phenomenon”（论雌雄现象的起源和基础）；Chanov（1982）的“The theory of sex allocation”（性分配理论）；Clutton-Brock等（1982）的“Red deer the behaviour and ecology of two sexes”（赤鹿的两性行为及生态学）；Maynard Smith（1980）的“A new theory of sexual investment”（性投资的新理论）；Nur和Hasson（1984）的“Phenotypic plasticity and the handicap principle”（表现型的可塑性和handicap原理）；Sutherland和Parker（1985）的“Distribution of unequal competitors”（不对称竞争者的分布）；Kodric-Brown（1985）的“Female preference and sexual selection for male colouration in the guppy,Poecilia reticulata”（雌性花鳉对雄鱼颜色的偏爱和性选择）等。
根据对各类动物和各种生境的比较研究表明：生态因素对动物的亲代抚育和交配体制有重要影响。资源分布（如产卵地和食物等）和雌性个体的时空分布都能影响动物为了达到最大的生殖成功所采取的行为方式。物种的生理特性也是决定亲代抚育方式和交配体制的重要因素，如体内受精和以乳汁哺幼的生理特点决定着雌性在亲代抚育中的主导作用，而体外受精、保卫领域和喂养后代的繁重任务决定了雄性必须参与亲代抚育工作，否则家庭生育就会失败。物种之间在亲代抚育方式上的差异是同交配体制的差异相关的。动物的交配体制大体可分为①一雄一雌制；②一雄多雌制；③一雌多雄制和④乱交制等类型。在鸟类和哺乳动物中，当雄性个体有能力独占一部分优质资源和多个异性个体时，往往会出现一雄多雌制（如百灵、鹀和象海豹等）。当一种交配体制对一性最有利时，对另一性不一定最有利，因此两性在交配体制的选择上可能存在着利益冲突并采取折中的解决办法。这方面的主要研究工作有Gross和Sargent（1985）的“The evolution of male and female parental care in fishes”（鱼类雌雄双亲抚育的进化）；Gross和Shine（1981）的“Parental care and mode of fertilisation in ectothermic vertebrates”（变温脊椎动物的亲代抚育和受精方式）；Wittenberger（1980）的“Group size and polygamy in social mammals”（社会性哺乳动物的社群大小和多配性）；Askenmo（1984）的“Polygyny and nest site selection in the pied flycatcher”（杂色鹟的一雄多雌制和巢位选择）；Catchpole等（1985）的“The evolution of polygyny in the great reed warbler,Acrocephalus arudinaceus：a possible case of deception”（大苇莺一雄多雌制的进化）；Davies和Houston（1986）的“Reproductive success of dunnocks in a variable mating system，Ⅱ.Conflicts of interest among breeding adults”（岩鹨在一种可变交配体制下的生殖成功率：Ⅱ.生殖成鸟间的利益冲突）；Davies和Lundberg（1984）的“Food distribution and variable mating system in the dunnock,Prunella modularis”（食物分布和岩鹨的可变交配体制）；Christy等（1984）的“Ecology and evolution of mating systems of fiddler crabs（Vca sp.）”（沼潮蟹的生态学和交配体制的进化）等。
利他行为的定义是：一个个体以牺牲自己的生存和生殖机会为代价去帮助其他个体繁殖更多的后代。在社会性昆虫中，不育雌虫（即工蜂、工蚁）从不进行生殖，但却把自己的一生献给了整个群体的繁育工作，这种遗传预定的不育性决定了它们必定是利他主义者。在膜翅目昆虫中单倍体的存在（雄蜂、雄蚁都是单倍体）更有利于促进利他行为的进化。对动物的利他行为曾提出过四种科学假说：①亲缘选择假说：借助于对亲属提供帮助而增加自己对未来世代的遗传贡献，因为个体间的亲缘关系越近，体内共占同一基因的概率就越高；②互惠假说：双方在合作中都能得到净收益；③操纵假说：如杜鹃把卵产在其他种鸟的巢中，寄主鸟类受到欺骗和操纵而对杜鹃卵和雏鸟表现出利他性的喂养行为；④互相依赖假说：如吸血蝠共享血液、灵长目的结盟和黑纹石斑鱼交替为卵授精（雌雄同体）等。在这四个假说中，假说①和④的利他行为只表现在表现型上，而在基因型上则是自私的，也就是说，利他行为归根结底有利于利他者的遗传（基因）利益；假说②的合作关系实际上并不是利他行为；假说③则是彻底利他的，即在表现型上和基因型上都是利他的，因为被杜鹃寄生的鸟类从利他行为中什么好处都得不到。这方面的主要研究工作有Hoogland（1983）的“Nepotism and alarm calling in the black-tailed prairie dog,Cynomys ludovicianus”（草原犬的裙带关系和报警鸣叫）；Holmes和Sherman（1982）的“The ontogeny of kin recognition in two species of ground squirrels”（两种黄鼠亲族识别的个体发育）；Feare（1984）的“The starling”（椋鸟）；Axelrod（1984）的“The evolution of cooperation”（合作行为的进化）；Wilkinson（1984）的“Reciprocal food sharing in the vampire bat”（吸血蝠的食物共享）；Seyfarth和Cheney（1984）的“Grooming,alliances and reciprocal altruism in vervet monkeys”（绿长尾猴的梳理行为、结盟和相互利他行为）；Yom-Tov（1980）的“Intraspecific nest parasitism in birds”（鸟类种内的巢寄生现象）等。
传统观念认为属于同一种群的个体所采取的行为对策应当是一样的，但近来的研究表明：同种个体竞争资源（如食物、配偶和营巢地等）的方法却存在着明显差异。例如，当多数雄鸭靠炫耀行为向雌鸭求偶的时候，却可能有少数雄鸭采取偷袭交配的对策。现在普遍认为，同一种群内的不同个体采取完全不同的行为对策是非常正常和合乎情理的，其理由有三：①进化过程是建立在对个体有利而不是对群体有利的基础上，因此，不同个体为了自身的利益而采取不同的行为对策是合乎道理的；②应用博弈论研究动物的行为表明，由采取不同行为对策的个体组成的种群可以达到一种稳定平衡状态；③利用田间标记法在田间对大量动物所作的观察表明，在同一种群内，个体之间为了竞争配偶、营巢地和其他稀缺资源，的确经常采取不同的行为对策。目前，行为生态学在研究这些不同行为对策及其进化方面已取得了一定进展。这方面的研究工作主要有Alcock等（1977）的“Male mating strategies in the bee,Centris pallida”（雄性蜜蜂的交配对策）；Gross（1985）的“Disruptive selection for alternative life histories in salmon”（鲑鱼生活史的歧化选择）；Gross（1982）的“Sneakers,satellites and parentals：polymorphic mating strategies in North American sunfishes”（北美太阳鱼的多态交配对策）；Brockmann等（1979）的“Evolutionary stable nesting strategy in a digger wasp”（一种掘地蜂的进化稳定营巢对策）；Caro和Bateson（1986）的“Ontogenetic analysis of alternative tactics”（可选择对策的个体发育分析）；Cade和Wyatt（1984）的“Factors affecting calling behaviour in field crickets”（影响蟋蟀鸣叫行为的因素）；Cade（1981）的“Alternative mate strategies：genetic differences in crickets”（可选择的交配对策：蟋蟀的遗传差异）；Bull（1980）的“Sex determination in reptiles”（爬行动物的性决定）和Dunbar（1983）的“Intraspecific variations in mating strategy”（交配对策的种内变异）等。
在一些鸟类、哺乳类和鱼类中，有些个体自己不生殖却去帮助其他个体喂养后代（帮助保卫巢穴和提供食物等）。这些帮手通常是帮助自己的近亲（尤其是父母），例如，当年孵出的幼鸟第二年长大后，不建立自己的家庭而去帮助母亲喂养一窝小鸟。帮助亲属生殖是促进自身对下一世代遗传表达的一种方式，这同自己生殖同样可获得一定的遗传利益，同时还可获得其他方面的好处，如有利于继承一个生殖领域和增加生殖经验等。但在通常情况下，自己生殖可以更好地传递基因，因此，充当帮手往往是在环境条件压力下（如难于找到配偶和领域等）不得不这样做。在这种情况下给亲属当帮手往往是弥补遗传损失的唯一可行的办法。在为非亲缘个体提供帮助时，往往也能从中获得有益的经验，以利于未来的生存和生殖。这方面的研究工作主要有Brown（1987）的“Ecology and evolution of helping and communal breeding in birds”（鸟类帮手和集体生殖的进化）；Woolfenden和Fitzpatrick（1984）的“The florida scrub jay”（佛罗里达丛林
鸟）；Rabenold（1984）的“Cooperative enhancement of reproductive success in tropical wren societies”（热带鹪鹩社会借助合作而提高生殖成功率）；Jarvis（1981）的“Eusociality in a mammal：cooperative breeding in naked mole rat colonies”（裸鼹鼠群体的合作生殖）；Koenig等（1984）的“The breeding system of the acorn woodpecker in central coastal California”（橡树啄木鸟的生殖体制）；Vehrencamp（1978）的“The adaptive significance of communal nesting in groove-billed anis,Crotophaga sulcirostris”（沟喙犀鹃公共营巢的适应意义）；Reyer（1980）的“Flexible helper structure as an ecological adaptation in the pied kingfisher”（可变通的帮手结构是斑翠鸟的一种生态适应）；Fricke（1979）的“Mating system,resource defence and sex change in the anemonefish,Amphiprion akallopisos”（海葵鱼的交配体制、领域保卫和性别变化）；Charnov（1981）的“Kin selection and helpers at the nest：effects of paternity and biparental care”（亲缘选择和巢中帮手）等。
目前，行为生态学家倾向于把信号理解为是一个动物（信号发送者）利用另一个动物（信号接受者）肌力的一种手段。例如，一只雄蟋蟀完全有能力四处跑动去寻找配偶，但它却待在一个地点用声音信号把雌蟋蟀吸引到自己身边来，这显然是利用了雌蟋蟀的肌力而节省了自己的肌力。信号的一个明显特点是发送信号只需消耗较少的能量，而靠利用其他动物的肌力却能得到较大的利益。在信号的进化过程中使信号仪式化（ritualization）有助于提高通信效率，这往往是信号发送者和接受者双方协同进化的结果。仪式化了的动作常常会变得非常刻板、夸张和重复进行，以收到准确传递信息的效果。只有当信号能给动物带来净收益的时候，动物才会使用信号。行为生态学主要是研究各种信号如何通过自然选择的作用而达到高效通信的目的。生态条件和信号接受者的反应是影响信号进化的两种自然选择压力。这方面的研究工作主要有Enquist（1985）的“Communication during aggressive interactions with particular reference to variation in choice of behaviour”（相互侵犯期间的通信）；Seyfarth等（1980）的“Vervet monkey alarm calls：evidence of predator classification and semantic communication”（绿长尾猴的报警鸣叫）；Wiley（1983）的“The evolution of communication：information and manipulation”（通信的进化：信息与操纵）；Caryl（1982）的“Animal signals”（动物的信号）；Zahavi（1979）的“Ritualization and the evolution of movement signals”（仪式化和运动信号的进化）；MacNally和Young（1981）的“Song energetics of the bladder cicada,Cystosoma saundersii”（蝉的鸣声能量学）；Brown（1982）的“Ventriloquial and locatable vocalization in birds”（鸟类的口技和可定位发声）；Hunter和Krebs（1979）的“Geographical variation in the song of the great tit（Parus maj or）in relation to ecological factors”（与生态因素有关的大山雀鸣声的地理变异）等。
目前，将行为生态学基本原理应用于植物的研究已取得了初步进展，不仅已发现植物也有性选择现象，而且已提出了植物性选择的相应理论，其中最流行的两种理论是序列雌雄同株理论和斑块环境理论。此外，还用ESS理论研究了植物进化过程中资源在两性间的最优分配和用两性利益冲突的观点较好地解释了植物的杂交和双受精问题。这方面的主要研究工作有Barker等（1982）的“Sexual flexibility in Acer grandidentatum”（槭树的性别可塑性）；Willson和Burley（1983）的“Mate choice in plants：tactics,mechanisms and consequences”（植物的配偶选择：策略、机制和结果）；Willson（1979）的“Sexual selection in plants”（植物的性选择）；Casper和Charnov（1982）的“Sex allocation in heterostylous plants”（花柱异长植物的性分配）和Charnov（1984）的“Ecology in plant behaviour”（植物行为生态学）等。
当前行为生态学发展的一个重要趋势就是深入微观机制，在基因水平上探讨行为生态学机制，特别重视研究行为、生态和进化的关系。行为生态学家总是试图了解动物的行为是如何适应它们的生存环境的，并把适应理解为在进化过程中通过自然选择所发生的变化。行为生态学根据现代遗传学理论，在基因水平上对自然选择理论作了新的表述，其基本出发点是：虽然自然选择是作用于生物的表现型，但在进化中真正发生变化的是基因的相对频率。英国行为生态学家Dawkins（1977）在其名著The Selfish Gene（《自私的基因》）一书中，把个体看成是基因的临时载体，基因以个体为寓所在其中得以生存和复制。由于基因的选择是借助于表现型而进行的，所以最成功的基因就是那些能够最有效地促进个体存活和生殖的基因（包括亲属的生殖），而个体的行为也将能最大限度地促进基因的存活。在基因利益上，任何个体的行为都是自私的，但不包括受到其他个体操纵和被欺骗的行为。
另一个发展趋势是经济学思想和方法日益渗透到行为生态学的研究之中。最早把经济学思想和方法引入行为生态学研究的人是J.L.Brown（1964），其后陆续又有不少学者在这个领域内从事大量的研究工作。“投资收益分析”是经济学的主要研究方法之一，这种方法除已广泛地应用于研究动物的觅食行为和领域行为以外，在诸如战斗行为、生殖行为、双亲抚育行为、最优模型、食物选择、食谱分析、经济决策和风险权衡方面也已得到普遍应用。
五、行为生态学中的比较研究法
虽然比较研究法早在1958年就被H.E.Winn用于河鲈科鱼类的研究，但Crook（1964）对文鸟科的研究已被公认为是应用这一方法研究行为生态学的楷模。Crook把近缘物种的社会组织差异同生态学差异联系起来进行比较研究，以便查明各种自然选择压力对社会组织的影响。社会组织主要是指下列特征：生殖群和取食群的大小、空间组织（领域的有无及大小、重叠分布区等）和交配体制（单配或多配性）。生态因素主要是指食物、营巢地和天敌。Crook研究了生活在非洲和亚洲的90种文鸟的社会组织和生态学，发现它们可以明显地分为两大类型。一类生活在常绿森林中，以食虫为主，一雄一雌成对活动（单配性），每对成鸟都占有较大的领域；另一类生活在热带稀树草原，取食植物种子，结群觅食，巢也密集在一起，形成庞大的公共巢，交配体制为一雄多雌（多配制）。显然，文鸟的社会组织同它们生活其中的生境特征和食物性质有着明显的相关性。
森林食虫文鸟的巢一般是隐蔽的和分散的，以便减少捕食动物对鸟卵和雏鸟的毁灭作用，它们还善于利用非常分散和不太丰富的食物资源。也可以说，是捕食者的存在和食物的分散性迫使森林文鸟采取了分散营巢和占有较大领域的生存对策。与此相反，生活在稀树草原、以吃种子为主的文鸟则建筑非常庞大而醒目的巢群，因为它们的营巢地点（如刺金合欢树的树冠）是捕食者无法到达的；另一方面，它们的食物非常丰富而且呈集团分布，因此它们便常常结群觅食，群中的每一个个体都会因其他个体找到食物而获得好处，只要食物的密度足够大，群内个体之间的竞争就不会超过结群所带来的好处。在这种情况下，占有固定的领域反而会使食物得不到保障，所以领域现象在草原文鸟很不明显。建筑庞大的巢群可能是适应好的营巢地不够多这样一种生态条件，草原文鸟喜欢选择既安全又有丰富食物的地点营巢，建立巨大巢群还有这样一个好处，即只要有一个个体发现了适宜的营巢地，就可使全群受到好处。
用食物和栖息环境等生态因素同样也可以解释两类文鸟在交配体制上所存在的明显差异。森林食虫文鸟的生殖主要受到双亲带食物回巢能力的限制，雌、雄成鸟必须通力合作、全力以赴才能成功地养育一窝小鸟，如果有任何一方离弃这个家庭，都会造成育雏的失败，因此，一雄一雌制就成了森林食虫文鸟的常规配偶形式。相反，一雄多雌制则常见于草原文鸟，因为在结群的草原文鸟中，有些雄鸟能够有效地保卫许多营巢地的安全，而另一些雄鸟则得不到营巢地，因此，大量雌鸟同少数占有营巢地的雄鸟形成一雄多雌的交配体制对物种的延续更为有利，这样不仅可以保证全部雌鸟都能参与生殖，而且还可以保证强者的遗传优势。随着一雄多雌制的发展，性二型的分化也越来越明显，求偶行为也越来越复杂。
非常有说服力的是，一些在食性上处于上述两种类型之间的种类（同时吃种子和昆虫），它们的社会组织也相应地处于两者之间，表现出明显的过渡状态，不过有些偏向于森林类型，另一些则更偏向于草原类型。这些事实对Crook的观点是很大的支持。目前，比较研究法已应用于研究所有的鸟类、灵长类和有蹄类哺乳动物和某些热带珊瑚鱼。
六、最适性理论和进化稳定对策（ESS）
MacArthur和Pianka（1966）主张用经济学观点研究动物的行为，并首先在取食行为方面使用了最适选择（optimal choice）的概念。他们根据动物在捕食全过程中的能量得失来分析一个捕食者的最适食物，并提出，从这一原则出发可以对一个有效的捕食者确立一整套的行为准则。目前。最适性理论已应用于研究行为的所有方面，如用来解决领域大小、社群大小、生活史对策和交配对策等问题。而McFarland（1977）则把这一理论用于研究动物行为的决策机理（mechanisms of dicision making），并在这一研究中把生物学、心理学和经济学融为一体。最近又有人用最适性理论探讨动物的内在动机因素和外在生态条件是如何相互结合，共同对动物的行为决策施加影响的。
最适性理论的基本出发点是，自然选择总是倾向于使动物最有效地传递它们的基因，因而也是最有效地从事各种活动，包括使它们在时间分配和能量利用方面达到最适状态。这一理论的难点之一是，往往难以找到一个现成的、单一的最适行为对策，特别是当一个行为的价值要视种群中其他个体的行为而定的时候就尤其如此。一个雄性粪蝇在寻觅雌蝇时的最优占位往往取决于其他雄蝇停落在什么地方，而在一场争夺配偶的斗争中，雄蝇的最适行为又常常取决于它的对手如何行动，有时需要退让，有时又需要进行激烈的争斗。又如，对一个正在生殖的雌蝇来说，其后代的最适性比率往往又依该种群中两性的全面性比率而定。在上述各种情况下，都难以找到一个对所有个体都一律适用的最适行为对策。
为了从理论上解决这一问题，就必须寻找一种对策或一种混合对策，这种对策是被种群大多数成员所采取的，而且不会受到其他任何可选对策的侵蚀，这样的对策就叫进化稳定对策（ESS）。ESS的基本特性就是它的不可侵蚀性，即ESS一旦被种群中大多数成员所采纳，该种群在进化过程中就会保持稳定。“对策”一词可以理解为是一种程序预先编制好的行为，例如当一个动物向对手发动攻击时，“如果对手逃跑就追击，如果对手还击就逃跑”就是一种对策。当然，对策并不是个体有意识地制定出来的，而是自然选择的产物。以动物的战斗行为为例：假定一个种群内只存在两种战斗对策——鹰对策和鸽对策。鹰战斗起来总是全力以赴、孤注一掷，除非身负重伤，否则绝不退却；而鸽则总是以惯常的方式进行威胁恫吓，从不伤害对方。当一个鹰对策者（简称“鹰”，下同）与一个鸽对策者（简称“鸽”，下同）相遇时，“鸽”总是逃跑，因此“鸽”从不会受伤；当“鹰”和“鹰”相遇时会一直打到一只“鹰”受重伤或死亡为止；当“鸽”和“鸽”相遇时，双方谁也不会受伤，它们可能长时间摆出对峙的架势，直到其中一只感到疲劳或感到厌烦而决定不再对峙下去，从而做出让步为止。
假如我们规定战斗的得分标准如下：赢一场得50分，输一场得0分，重伤得-100分，长时间对峙浪费时间得-10分。得分高的个体则意味着能在种群基因库中留下较多的基因。现在要问：鹰对策和鸽对策哪一个是进化稳定对策？显然，不管是鹰对策还是鸽对策，单凭其自身不可能在进化上保持稳定，因此，它们之中的任何一个都不可能得以进化。如果种群全由鸽对策个体组成，则每次战斗总是其中一方得胜，得50分，因与对方对峙浪费时间扣10分，结果净得40分；另一方退却得0分，同样因长时间对峙扣10分，结果净得-10分。由于每只“鸽”平均输赢各半，因此平均得分应是（40-10）÷2=15分，看来还不错。但是，如果在鸽种群中因突变出现了一个鹰对策者，它每次战斗都是同“鸽”进行，结果总是赢，每场净得50分，这同时也是平均得分，与15分相比，“鹰”占有巨大优势，于是“鹰”的基因在种群中得到传布，但此后“鹰”却再也不能指望它以后遇到的对手都是“鸽”了。
再考虑另一极端，如果鹰基因的散布最终使整个种群都成了“鹰”的天下，那么所有的战斗就都会是“鹰”对“鹰”，结果总是一方得胜，得50分，另一方受重伤得-100分，每只“鹰”在战斗中可望胜负各半，因此平均净得分是（-100+50）÷2=-25分。此时，如果“鹰”种群中因突变产生一只鸽对策者，虽然它每次战斗都要输，但它不会受伤，平均得分为0，而“鹰”的得分是-25。在这种情况下，“鸽”基因就会在种群中散布开来。根据上述事实可以看出，纯“鹰”种群和纯“鸽”种群都是不稳定的，似乎会出现从“鹰”种群到“鸽”种群，再从“鸽”种群到“鹰”种群的大幅度摆动，但事实上不会如此。“鹰”和“鸽”之间应存在一个稳定的比例，按上述评分计算一下，结果“鸽”同“鹰”的比例达到（5/12）：（7/12）时最稳定，此时“鹰”和“鸽”的平均净得分完全相等。如果种群中“鹰”的数目开始上升，不再是7/12，“鸽”会得到额外的优势，这将迫使“鹰”的比例下降，使整个种群回到稳定状态。
在由7/12“鹰”和5/12“鸽”组成的稳定种群中，每个个体的平均得分都是25/4分（“鹰”“鸽”均如此），这个得分比纯“鸽”种群的个体平均得分要少很多。因此，只要大家都同意成为“鸽”，那么每个个体都会受益，也就是说，清一色的“鸽”种群中，每一只“鸽”的境遇要比稳定种群中的“鸽”好一些。问题是，“鸽”种群中如果出现一只“鹰”，那么任何力量也不能阻止它的进化，它单枪匹马就会干出无与伦比的业绩，这个种群就会因为出现内部的背叛行为而土崩瓦解。可见，ESS种群的稳定倒不是因为它特别有利于其中的个体，而仅仅是由于它没有内部背叛行为的隐患。当然，ESS种群的稳定也可以通过下述方法达到，即每个个体都能采取上述两种对策，但采取鹰对策和鸽对策的概率分别是7/12和5/12，而且必须是随机的，因为只有随机才能使任何一个对手事先无法猜出对方在战斗中将采取何种对策。如果有一个个体总是连续7次充当“鹰”，再连续5次充当“鸽”，这种简单的战斗序列是绝对不可取的，因为它的对手很快就会识破这种对策并加以利用。
以上只是一种简单的模型，但它对理解进化稳定对策这一概念是非常有帮助的。简单的模型经过丰富发展就可以形成更加接近实际的复杂模型。进化稳定对策的概念在行为生态学中已得到广泛应用，除上述实例外，在诸如仪式化战斗问题、求偶场问题和栖息地选择问题上也已得到应用，可以说ESS是行为生态学中最重要的概念之一，凡是有利益冲突的地方，它都适用，这就是说几乎在一切地方都适用。
七、行为、生态学和进化的关系
行为生态学特别重视对动物行为功能的研究，并试图了解动物的行为是如何适应它们的生存环境的。在达尔文看来，适应性是一个很明显的事实，如眼睛适于视物，四肢适于奔走，翅膀适于飞翔等。达尔文穷毕生精力试图解释生物的适应性是如何产生的，并提出了自然选择进化理论。我们可以把达尔文在1859年出版的The Origin of Species（《物种起源》）一书中所发表的自然选择进化论概括为以下几点：
（1）同种个体之间存在着形态、行为和生理差异（即变异的普遍性）。
（2）部分变异是可遗传的，子代更相似于自己的双亲而不太相似于同一种群内的其他成员。
（3）生物有巨大的数量增殖潜力，其所产生的后代数量远远大于可能存活的数量，因此，个体之间必定要为获得资源、配偶和空间而进行竞争。
（4）竞争结果，一些个体将会比另一些个体留下更多的后代，这些后代将会继承它们双亲的特征，并通过自然选择而进化。
（5）自然选择的结果是生物适应它们的生存环境，被选择下来的个体将是那些最能有效地找到食物、配偶和逃避捕食者的个体。
行为生态学根据现代遗传学理论，在基因水平上对自然选择进化理论作了新的表述，其基本出发点是：虽然选择是作用于表现型，但在进化中真正发生变化的是基因的相对频率，因此可以把进化理论重新表述如下：
Ⅰ.所有生物都有基因，基因决定着蛋白质的合成，而这些蛋白质又对神经系统、肌肉的发育和结构起着控制作用，因而也决定着动物的行为。
Ⅱ.在种群内，很多基因都具有两个或更多的对立形式或叫等位基因，等位基因即使对同一蛋白质的编码也略有不同，这将导致发育上的差异并因而产生种内变异。
Ⅲ.等位基因对染色体上的某一特定位置，即位点（locus），存在着竞争关系。
Ⅳ.任一等位基因所复制的基因，如果比其对立基因所复制的基因更加富有存活力，那么它最终就能在种群中取代其对立基因。自然选择将有利于使对立等位基因的存活产生差异。
大量的研究已经表明，个体间的遗传差异可以导致行为的差异，包括交配行为、学习行为、鸣叫发声、觅食行为和迁移行为等。在行为、生态学和进化的关系方面，目前已知有三个主要原理：①在进化期间，自然选择将有利于个体采取如下的生活史对策，即能使其基因最大限度地对未来世代做出贡献；②成年动物的最优生存和生殖方式将决定于生态学、生活环境、食物条件以及同它有关的竞争者和捕食者等；③由于一个个体的生存和生殖成功主要依赖于它的行为，因此，自然选择总是倾向于使动物具有最大的捕食效率、采取最有效的交配对策和能够最成功地逃避捕食者等。至于什么是“最优”和“最有效”，则要看对几种可替代行为的选择结果，而这种选择又是在各种生态和生理压力下进行的。可以说，行为生态学是处在行为、生态学和进化的交叉点上，我们可以把生态学看成是行为发生的舞台，而把进化看成是一种过程，在这个过程中被选择下来的行为，将能使动物在为增加自身基因在种群基因库中的比例的竞争中得到最大的成功。
八、亲缘选择和广义适合度
1964年，Maynard Smith在“Group selection and kin selection”（群选择和亲缘选择）一文中明确地提出了亲缘选择的概念。同年，W.D.Hamilton的文章《社会行为的遗传理论》在理论生物学杂志发表，于是引起了人们对亲缘选择概念的巨大兴趣。现在，人们已普遍看到了亲缘选择在解释各种社会行为进化和利他行为进化中的重要作用。亲缘选择是指对有亲缘关系的一个家族或家庭中的成员所起的自然选择作用。亲缘选择主要是对支配行为的基因起作用，因此，它所增进的有时不是个体的适合度（fitness），而是个体的广义适合度。什么是适合度和广义适合度？简单说来，适合度是衡量一个个体存活和生殖成功机会的一种尺度，适合度越大，个体存活的机会和生殖成功的可能性也越大。而广义适合度则不以个体存活和生殖为尺度，而是指一个个体在后代中传布自身基因（或与自身基因相同的基因）的能力有多大，能够最大限度地把自身基因传递给后代的个体，则具有最大的广义适合度（注意，不一定是通过自身生殖的形式）。实际上，亲缘选择的概念是从广义适合度的概念引申出来的，所谓亲缘选择就是选择广义适合度最大的个体，而不管这个个体的行为是不是对自身的存活和生殖有利。为了讲清楚亲缘选择和广义适合度这两个极其重要的概念，我们可以从利他行为谈起。
众所周知的是，利他行为在动物界是普遍存在的，母爱就是突出的一例，双亲辛勤地工作不是为了自己，而是为了养育和保卫自己的后代，甚至为了子女的安全，不惜把捕食动物的注意力引向自己；鸟类和哺乳动物的报警鸣叫增加了自己的危险，却换取了同群其他个体的安全；在蜜蜂、蚂蚁等社会性昆虫中，不育的雌虫自己不产卵生殖，却全力以赴地帮助蜂后（或蚁后）喂养自己的同母弟妹；工蜂的自杀性螫刺也显然是为了全群的利益；在蜜罐蚁的群体中，有些工蚁整天吊在巢顶，腹部膨大得惊人，里面塞满了食物，其他工蚁把它们当作食品贮存器使用，这些工蚁的个性显然是为了集体的利益而受到了抑制。这些明显的利他行为，用达尔文的个体选择的观点是无法解释的。因为个体选择是建立在个体表现型选择的基础上，这些特性一经选择，势必以更大的生殖优势在后代中表现出来，但不育雌虫根本不能生殖，又如何能将这些性状传递下去呢？个体选择也难以解释其他的利他行为，因为利他行为所增进的不是行为者自己的适合度，而是其他个体的适合度。但是如果应用亲缘选择的观点，利他行为便能得到科学的解释，因为亲缘选择只对那些能够有效传布自身基因的个体有利，假如有一个基因碰巧能使双亲表现出对子女的利他行为，哪怕这些行为对双亲的存活不利，只要这些行为能导致足够数量的子代存活，那么这个利他基因在子代基因库中的频率就会增加，因为子代总是复制与父母相同的基因。社会性昆虫中的不育性雌虫（工蜂和工蚁）也是这样，例如一只工蜂，它同自己的姐妹（同群中的其他工蜂）之间有75%的基因是完全相同的（其中的25%来自双倍体的母亲，50%来自单倍体的父亲），因此，虽然它自己不生殖，但它帮助母亲（蜂后）喂养自己的同胞弟妹比自己养育子女的广义适合度更大，因为母女之间只有50%的基因是相同的。为了更深入地理解这些问题，有必要把亲子之间或亲属之间的亲缘关系定量化。人所共知的是，配子形成时的减数分裂将使任何一个特定基因都有50%的机会参与精子或卵子的形成（同源染色体上的等位基因也同样有50%的机会参与配子的形成），因此，总会有一半的精子或卵子复制某一特定基因，而另一半则不复制。可见，对一个双倍体物种来说，亲代与子代共同具有某一特定基因的概率恰好是0.5，也就是说，亲代与子代之间的亲缘系数（the coefficient of relatedness）等于0.5，即r=0.5。
亲代与子代占有共同基因并不排斥其他与之有亲缘关系的个体也占有同一基因，只是亲缘关系越远，占有同一基因的概率就越小，即亲缘系数r值越小。通过计算可以知道，任一个体内的任一基因在其兄弟姐妹中出现的概率是0.5（即r=0.5），在其子女中出现的概率也是0.5（r=0.5），在其孙辈个体中出现的概率是0.25（r=0.25），在其表（堂）兄弟姐妹中出现的概率是0.125（r=0.125）……概括起来说，在双倍体物种中如果不发生近亲交配的话，
其中L是两个亲缘个体相隔的世代数。正是由于同一亲缘群中的个体不同程度地占有共同基因，因此，从亲缘选择的观点看，如果一个个体对同一家族群中的其他个体表现出利他行为，也就不足为奇了。因为它们之间具有共同的基因利益，利他行为多多少少都对利他主义者传递自身基因有利。
在什么前提条件下，利他行为才会被自然选择所保存呢？假如有一个利他主义者用自身的死亡换取了2个以上兄弟姐妹的存活，或者4个以上孙辈个体的存活，或者8个以上曾孙辈个体或堂（表）兄弟姐妹的存活，那么因利他主义者死亡而损失的基因，就会由于有足够数量的亲缘个体存活而得到完全的补偿，而且还会使该利他基因在种群基因库中的频率有所增加。也就是说，只有受益的亲缘个体所得到的基因利益按亲缘系数的倒数（即按1/r）超过利他主义者因死亡所受到的基因损失时，才能增进利他主义者的广义适合度，因而这种利他行为也才能被自然选择所保存并得以进化。
下面举一个鸟类方面亲缘选择的实例：在热带地区，鸟类常常全年生活在固定的地方，后代也很少分散，因此在左邻右舍之间总是存在一定的亲缘关系。有时可以看到5只成鸟（如
鸟）同时喂养一窝小鸟的怪现象，其中只能有2只是小鸟的双亲，其余3只都是外来的帮手。帮手鸟常常是前一窝的小鸟，现在长大了，在帮助父母喂养自己的同胞弟妹。这种行为的遗传学根据是，它们与父母之间的亲缘系数同它们与同胞弟妹之间的亲缘系数是相等的，即r都等于0.5。因此，帮助父母多养育一些小鸟，同它们自己产卵生殖，其广义适合度是一样的。所以，每当它们因某种原因而不能建立起自己的家庭时，便前来帮助父母进行生殖。此外，帮手也可能是邻居，正如前面所说的，邻里之间往往存在亲缘关系，因此，一旦有谁的巢遭到了破坏，又来不及产第二窝卵的话，那弥补损失的最好办法就是去帮助邻居喂养小鸟。
在上述的例子中，如果帮手所付出的牺牲还不够大的话，那么野火鸡的性行为也许是一个更好的例子。同窝孵出的雄性野火鸡，长大后都分成2～3只一小群，在同一求偶场向雌火鸡求偶。在众多的同胞兄弟中，只能有1只最优势的雄火鸡与雌火鸡交配，其他个体都因优势较差而不能直接传递后代，这些求偶失败者都甘心情愿服从于优胜者，并千方百计用自己的炫耀行为帮助优势者取得交配和生殖的成功。在这个例子里，亲缘选择显然倾向于选择那些优势较差却能帮助优势者进行生殖的个体，因为这种利他行为能大大增加优势较差个体的广义适合度。
九、基因的自私性
这里应着重指出的是，动物的行为可以是利他的，但基因决不会利他。Dawkins（1977）在《自私的基因》一书中称基因是绝对自私的（自私一词是指事物的客观效果，而不是指意识形态上的，下同）。可以说，在任何称得上是自然选择基本单位的实体中，都会发现自私性。基因的自私性通常会导致个体行为的自私性，但有时也会导致个体的利他主义。Dawkins认为，自然选择的基本单位不是物种，也不是种群或群体，甚至不是个体和染色体，而是作为遗传物质基本单位的基因。因为从遗传的意义上说，群体只不过是临时的聚合体，它们在进化过程中是不稳定的；种群虽然可以存在一个长时期，但也不是同其他种群混合以致失去它们的特性；个体也不稳定，它们总在不停地消失；至于染色体，好像是打出去的一副牌，不久就会因洗牌而被混合和湮没，但洗牌不会改变牌本身，牌本身就是基因，基因不会被染色体交换和基因交换所破坏，只是调换伙伴再继续前进。可见，只有基因才是最稳定的，并能通过复制和以拷贝的形式保持“永恒的”存在，基因之所以能成为自然选择的基本单位，就在于它的永恒性。
在基因的水平上，利他行为必然被自然选择所淘汰，而自私行为必定被保存。基因为争取生存，直接同它们的等位基因进行你死我活的竞争，因为等位基因是争夺在后代染色体上占有一定位置的竞争对手。可以想象的是，只有那些靠牺牲其等位基因而增加自己生存机会的基因，才能被自然选择所保存。因此，基因不仅是自然选择的基本单位，而且也是自私行为的基本单位。成功的基因的一个突出特性就是其无情的自私性。我们通常所说的进化，其实就是指基因库中的某些基因变得多了，而另一些基因变得少了的过程，即基因频率发生变化的过程，因此，每当我们要解释某种行为（如利他行为）特性的进化过程时，最好是问问自己：这种行为特性对基因库中的基因频率产生了什么影响？
R.Dawkins是英国的一位行为生态学家，他的观点虽然存在着各种争议，但他以独创的见解引人注目，并能给人以理论的启示。Dawkins的一个基本信念是，从发生在最低水平（即基因水平）上的选择出发，才是解释进化的最好办法。他的这一信念虽然深受G.C.Williams的著作Adaptation and Natural Selection（《适应与自然选择》）的影响，但是将其应用于行为生态学则是Dawkins的独创。