샌프란시스코의 '스페이드 & 어처' 탐정 사무실에 원덜리라는 미모의 아가씨가 나타나 사건을 의뢰한다. 그녀는 새스비라는 사내와 사랑에 빠진 여동생을 찾아달라고 부탁한다. 샘 스페이드(Sam Spade: 험프리 보가트)는 동료 탐정 어처(Iva Archer: 글래디스 죠지)를 보내 사건을 풀어보려 하지만 해결의 실마리는커녕 어처의 죽음이 그에게 전해지고, 곧이어 새스비까지 살해된다.

한편, 경찰은 어처의 처를 사랑했던 스페이드를 의심한다. 스페이드는 우선 원덜리를 방문, 자초지종을 다시 묻는다. 그러자 그녀는 그제서야 본명을 브리지드 오쇼네시(Brigid O'Shaughnessy: 메리 애스터)라고 밝히면서 여동생 운운한 건 가짜였고, 새스비와 어처를 죽인 건 누군지 모르겠다고 고백한다. 그리고 둘 사이에 사랑이 시작된다. 어느 날 여비서 에피(Effie Perine: 리 패트릭)가 퇴근한 후 스페이드는 마치 여자 같은 조엘 카이로(Joel Cairo: 피터 로리)의 방문을 받는다. 그의 등장은 사건에 접근하는 전기를 마련해 주는데 그는 샘에게 검은 새의 조각상을 찾아달라고 나선 것이다. 그것도 거액의 사례비를 주겠다는 조건으로, 조각상의 가치에 의문이 생긴 샘 앞에 이번에는 거트맨(Kasper Gutman: 시드니 그린스트리트)이라는 인물이 나타나는데...