지구에 침투한 외계인을 감시, 관리하는 미연방 일급 비밀기관인 맨 인 블랙(MIB). 활동적인 뉴욕 경찰인 제임스는 어느날 검은 양복의 낯선 인물 케이를 만나고 MIB 본부에 들어와 비밀요원 제이로 탄생한다. 외계에서 온 다양한 생명체들을 심문하던 중 은하계의 악명높은 테러리스트인 에드가가 불법으로 지구에 잠입한 사실을 알게 된다. 지구의 멸망을 가져오는 은하계의 전면 전쟁을 막기 위해 MIB 팀은 에드가를 찾아내 우주 평화의 신비가 담긴 구슬을 뺐어야만 한다. 힘겨운 싸움이 끝나고 마침내 제이와 케이의 노력에 평화를 되찾게 된다. 그리고 요원 케이는 MIB를 떠나 사랑하는 여인과 밀월 여행을 떠나기 위해 자신의 기억을 지워줄 것을 요원 제이에게 부탁하는데. (1편의 마지막) 지구에 잠입한 외계인을 감시하는 MIB 요원 제이. 요원 케이가 MIB를 떠난 후 많은 파트너들과 호흡을 맞추지만 베테랑 케이의 빈자리가 크기만 하다. 또 다른 수다쟁이 요원 프랭크는 파트너라기 보다 오히려 제이를 거추장스럽게 하며 말썽만 피울 뿐인데. 그러던 중 25년 전 MIB에게 당한 복수를 위해 마이크로 우주선이 지구에 침입한다. 콜라캔 크기의 우주선에서 내린 외계 생명체는 여성지 모델로 자신을 복제하고 MIB 아지트에 침입한다. 그녀의 이름은 셀리나, MIB 요원 중 일부가 셀리나와 손을 잡게 된 사실을 알게 되는 제이. 그러나 때는 이미 늦어 지구는 은하계의 전쟁에 휘말릴 위험에 처하게 된다. 위기에 놓인 지구. 요원 제이는 요원 케이의 도움을 필요로 하게 되고 제이는 케이의 기억을 복구시키려 갖은 애를 쓰는데.