En 1968, il fonde sa société avec son ami d’enfance Barry Schwartz. Le succès ne se fait pas attendre : alliant simplicité et élégance, luxe et modernité, la marque devient vite célèbre. Calvin Klein se fait un nom en faisant défiler des mannequins en slip. Ce sont ensuite ses jeans qui font fureur.