고래의 조상은 몸길이가 3m가 채 되지 않는 곰만한 육식동물이었다. 지금의 고래를 보더라도 뒷다리가 없는 점말고는 육지의 네발동물과 다를 바가 하나도 없다. 고래의 조상은 신생대 팔레오세 말기나 에오세 초기에 나타났다. 그리고 지금의 인도와 파키스탄 지역, 나이지리아와 같은 북아프리카 지역, 미국 남동부 등지에서 살다가 에오세 말기에 멸종됐다. 에신생대 에오세는 5천6백만년 전부터 3천5백40만년 전을 말한다. 고래의 조상(원시고래)은 지금의 고래와 달리 콧구멍이 주둥이 앞쪽에 있었다. 그런데 바다생활에 적응하면서 점차 머리뼈들이 겹쳐지고 콧구멍이 뒤쪽로 이동해 머리에서 가장 높은 곳에 자리잡았다. 이러한 진화 덕분에 고래는 머리를 물속에 처박고 호흡할 수 있게 됐다. 또한 귀뼈는 공기주머니나 기름덩어리 등으로 변했다. 앞다리는 지느러미로 발달한 반면 뒷다리는 퇴화됐다. 지금은 수염고래에서 뒷다리의 흔적을 찾아볼 수 있고, 이빨고래에서는 그 흔적마저 없다. 현생고래(지금의 고래)의 특징을 보고 화석고래를 분류하기 어려움은 또 있다. 현생이빨고래의 머리뼈는 비대칭이지만 화석이빨고래는 대칭인 경우가 있기 때문이다. 현생수염고래의 조상 역시 수염 대신 이빨이 있었다. 그렇지만 현재의 이빨고래와 수염고래가 한 조상에서 나왔다고 보는 견해가 우세하다. 그러면 고래의 조상은 어떤 진화과정을 거쳐 지금의 고래가 됐을까.

고래 조상은 육지동물

1980년대 초 파키스탄에서는 고래의 조상 파키세투스속(Pakicetus)의 두개골 화석이 발견됐다. 에오세 초기의 지층에서 나온 이 불완전한 화석은 포유류 머리뼈와 에오세 후기에 발견된 고래 머리뼈의 중간 모양이었다. 다만 고래쪽에 가까웠다. 머리뼈의 크기는 30-35cm였다. 이때 발견된 화석고래의 앞어금니는 상어이빨처럼 모서리가 날카로운 삼각형이었고, 어금니는 육식 포유류의 어금니와 비슷했다. 이 화석은 육상에 사는 포유동물 화석과 함께 출토됐다. 이러한 사실은 원시고래가 육지와 바다 양쪽에서 살았다는 것을 간접적으로 보여준다. 또 어떤 원시고래의 화석은 상당히 큰 뒷다리를 가지고 있었다. 원시고래는 진화하면서 점점 몸집이 커지기 시작했다. 에오세 후기에 나타난 바실로사우리대과(Basilosauridae)에 속한 고래는 길이가 25m에 이르렀다. 반면 5m 정도의 작은 고래도 있었다. 이때 나타난 원시고래들은 겉모습이 요즈음의 고래와 비슷했다. 몸이 유선형으로 길어졌고 앞다리가 짧아졌다. 앞발의 발가락은 길어지면서 지느러미 모양으로 진화했다. 꼬리도 해수면에 수평이 됐다. 귀의 구조는 해수에 맞게끔 발달됐으나 음파탐지기관이 발달된 증거는 여전히 없었다. 그러나 이빨은 여전히 육식동물의 이빨과 비슷했다. 아직까지 원시고래는 이빨고래나 수염고래로 나뉘어지지는 않았다. 한편 이때의 원시고래들은 지금의 해표류처럼 새끼를 낳기 위해 육지로 올라왔다는 의견도 있다. 팔레오세 말기에 출현해 육지에서만 살던 고래의 조상이 바다생활에 적응하는 데는 약 1천5백만년이 걸린 것으로 보인다. 바실로사우리대과에 속한 원시고래는 에오세 말기나 올리고세 초기에 멸종한 것으로 보인다.

이빨고래와 수염고래의 등장

이빨고래와 수염고래는 올리고세 초기에 분리되기 시작했다. 이빨고래는 조상인 육식동물이 먹이를 잡아먹던 방법을 바다생활에 맞게 변형한 반면, 수염고래는 완전히 새로운 방법을 터득했다. 이빨고래와 수염고래는 남극해에 처음 나타났을 때부터 뚜렷이 구분됐다. 두 부류의 고래는 모두 두개골이 겹쳐지면서 콧구멍이 뒤쪽으로 이동해 갔다. 그러나 이빨고래는 주둥이를 덮는 뼈가 머리 뒷쪽으로 확장된 반면, 수염고래는 뒷머리뼈가 앞으로 확장됐다. 그래서 수염고래의 머리뼈는 대칭으로 분기공이 머리 윗부분 가운데에 두개가 있다. 하지만 이빨고래는 오른쪽 윗턱뼈와 코뼈가 왼쪽보다 발달해 전체적으로 비대칭이 됐다. 또한 분기공도 왼쪽 앞부분에 한개만 있다. 대표적인 예가 물을 왼쪽 앞으로 비스듬하게 뿜는 말향고래다. 화석으로 살펴보면 이때부터 고래들이 음파를 발신하고 수신하는 능력이 지녔거나 그 준비를 하고 있었다. 이러한 사실은 당시 고래가 지금처럼 완전히 물속에서 살았다는 것을 의미한다. 그래서 모든 기관이나 조직이 물속에서 살아가는데 큰 어려움이 없게끔 발달됐을 것이다. 한편 대륙의 이동으로 올리고세 초기에 남극이 고립되고, 이에 따라 남반구 해류들의 흐름이 바뀌었다. 이러한 환경변화 때문에 이빨고래와 수염고래가 별도로 진화했다는 설명도 있다.

돌고래는 1천5백만년 전 출현

이빨고래는 출현한 이후 바다생활에 적응하면서 점차 이빨의 뿌리숫자가 적어지기 시작했다. 이빨 모양도 원추형으로 간단해졌다. 하지만 오징어처럼 큰 물고기를 먹는 것은 이빨의 크기가 커지고 개수는 적어졌다. 반면 작고 미끄러운 먹이를 먹는 고래는 이빨의 크기가 작아지고 개수는 많아졌다. 예컨대 작은 물고기를 잡아먹는 돌고래의 이빨은 2백개에 이르고, 대형 오징어를 잡아먹는 말향고래는 60여개의 이빨이 아랫턱에만 나 있다. 이빨고래인 말향고래와 피그미말향고래는 마이오세 초기인 2천3백30만년 전에 출현했다. 또 강에 사는 아시아 담수돌고래와 아마존강돌고래도 이때 출현했다. 아래 이빨이 밖에서 보이는 돌고래들은 이들보다 늦은 마이오세 중기에 나타났다. 킬러고래와 돌고래, 일각고래와 벨루가 등은 마이오세 후기가 시작될 무렵인 약 1천1백만 년 전에서 1천만년 전 사이에 출현했다. 수염고래는 동물플랑크톤을 걸러 먹을 수 있는 수염을 가지고 있다. 가장 오래 된 수염고래의 화석은 뉴질랜드의 올리고세 후기 지층에서 발견됐다. 수염은 화석으로 보존되지 않지만, 현생수염고래의 수염을 만드는 기관과 비슷한 기관이 두개골에 있는 것을 보아 수염고래라는 것을 알 수 있다. 또 미국 오레곤주 올리고세 후기 지층에서 산출된 수염고래화석은 이빨을 가지고 있다. 올리고세의 화석수염고래는 지금의 모든 수염고래들의 조상으로 여겨진다. 이때부터 플라이오세 후기까지 생존했던 수염고래는 약 60종에 이른다. 이 중에는 큰 것도 있지만 3m 밖에 안되는 작은 것도 있었다. 참고래와 그린랜드참고래가 속한 수염고래 부류는 올리고세 중기(혹은 마이오세 초기)에 출현했고, 피그미참고래는 마이오세 후기에서 플라이오세 사이에 나타났다. 대왕고래와 밍키고래가 속한 부류는 마이오세 후기에 출현했다. 회색고래는 마이오세후기에 출현했으나 머리뼈의 크기가 작은 것으로 보아 먼저 생겼을 수도 있다.