1857년 폴란드에서 태어났다. 본명은 유제프 테오도르 콘라트 코제니오프스키(Józef Teodor Konrad Korzeniowski)이다. 여덟 살에 모친을, 열두 살에 부친을 잃고 외숙의 보살핌을 받으며 성장했다. 1874년 폴란드를 떠나 프랑스 상선의 선원이 되었다. 그 후 밀수, 연애 및 도박 등에 연루되어 빚을 지었다. 1878년에 권총 자살을 기도하나 미수에 그쳤고, 영국 상선의 선원이 되어 처음으로 영어를 배웠다. 1886년 영국으로 귀화해 영어식 이름으로 개명한 후, 첫 단편 「검은 선원」을 발표했다. 한동안 항해와 작품 활동을 병행하다가 1894년 서른일곱이 되던 해부터 선원 생활을 마감하고 작품 활동에 전념했다. 1895년 첫 장편 소설 『올마이어의 어리석음』을 발표했다. 『암흑의 핵심』(1899), 『로드 짐』(1900), 『노스트로모』(1904), 『서구인의 눈으로』(1911) 등의 작품을 쓰고 당대의 작가 포드 매덕스 포드, H. G. 웰스 및 헨리 제임스와 교류했다. 1924년 영국 왕실의 기사 훈위를 사양하고 향년 예순일곱 살에 심장 마비로 타계했다.