본명은 아베 기미후사. 도쿄에서 출생하였으나 태어난 이듬해부터 중학교를 마칠 때까지 만주에서 살았다. 의사였던 아버지의 뒤를 잇기 위해 도쿄대학 의학부를 졸업하였으나 의학에 흥미를 느끼지 못하여 의사의 길을 단념하였다. 1947년 아방가르드에 눈을 뜨고 <세기의 모임>을 결성하였다. 이 무렵 쉬르레알리슴에 관심을 갖게 되고 궁핍한 생활 속에서도 열성적으로 작품 활동을 하였다.

1951년 「빨간 누에고치」로 제2회 <전후문학상>과 「벽-S. 카르마 씨의 범죄」로 제25회 <아쿠다가와상>을 수상하였으며 <50년대 일본의 풍토 속에서 당연히 출현하지 않으면 안 될 작가>라는 찬사를 받았다. 1962년 『모래의 여자』를 출간하면서 세계적인 작가로 급부상하였다. 1973년 연극 모임 <아베 코보 스튜디오>를 설립하여 다수의 자작 희곡을 연출하면서 극작가로도 이름을 날렸다. 1993년 급성 심부전으로 사망했다.