Calvin Klein spolu se svým přítelem a obchodním partnerem Barrym K. Schwartzem založili společnost Calvin Klein Inc. a brzy ji přeměnili na multimiliardový provoz a jednu z nejúspěšnějších, a nejznámějších značek v tomto odvětví.
U mladého Kleina se sen navrhovat oblečení zrodil ještě když byl dítě. Jeho babička byla krejčová a rád sledoval, jak pracuje s látkami a vytváří nádherné kousky.
Klein se narodil v roce 1942 v židovské rodině v Bronxu, v New Yorku. Jeho otec utekl z Maďarska uprostřed světové války a jeho matka se narodila v Americe rodičům, kteří byli přistěhovalci z Evropy.
Kleinova matka, která si uvědomila, že jejich syn se zajímá o práci své babičky, podpořila jeho vášeň a povzbudila ho, aby studoval na High School of Art and Design na Manhattanu.
V roce 1962 Klein promoval na Fashion Institute of Technology v New Yorku a začal se učit u výrobce plášťů a obleků Dana Millsteina. Dále pracoval pro různé obchody a výrobce v New Yorku. Nebyl však spokojen s myšlenkou vyrábět kousky, které nepovažoval za přitažlivé, a tak nakonec skončil. Podle samotného designéra, jedna konkrétní situace ho přinutila uvažovat o zahájení vlastního podnikání namísto práce pro jiné.
„Jednoho dne jsem viděl jít po ulici ženu ve žlutém kabátě s límcem a manžetami ze žluté lišky, žlutým kloboukem, žlutou kabelkou a žlutými botami. Bylo mi tak špatně, když jsem si uvědomil, že jsem se podílel na vytváření tohoto oblečení,“ vysvětlil Klein ve vzácném rozhovoru v roce 1984.
Jednoho dne zástupce velkého obchodního domu, Bonwit Teller, náhodou vstoupil do Kleinova malého pronajatého showroomu. Když si všiml jeho práce, zadal objednávku na 50 000 dolarů na jeho kabáty.
Lidé milovali jeho kousky a začátkem 70. let vydělal milionové tržby
Klein se stal prominentní postavou v módním průmyslu a vytvořil ikonickou značku, která se zpočátku zaměřovala na dámské kabáty a později se jeho tvorba přenesla i na pánské oblečení, sportovní oblečení, šperky, hodinky, parfémy, šátky, boty, pásky, sluneční brýle či spodní prádlo.
Klein vždy vytvářel minimalistický styl. „Vyrůstal jsem v prostředí, které bylo velmi barokní, a vždy jsem miloval jednoduchost a čistotu,“ uvedl pro Huffington Post.
Když „znovu vynalezl“ džíny, svým přiléhavým denimem nabídl lidem zcela nový zážitek. Klein tak dosáhl nové výšky ve světě módy. Ještě větší úspěch mu přinesly jeho reklamy, které mnohým připadaly vulgární.
Klein byl vždy velmi uznávanou veřejnou osobností. V minulosti ho bylo možné často vidět na mnoha akcích, ale v posledních letech ho na veřejnosti vídat jen zřídka a má tendenci zůstat mimo centra pozornosti. Ve skutečnosti ani v době vrcholu své kariéry Klein o svém soukromém životě mnoho neprozrazoval.

Víme o něm, že byl dvakrát ženatý a má jednu dceru, Marci Kleinovou, která je etablovanou producentkou a je známá zejména díky své práci na NBC Saturday Night Live a 30 Rock.
Klein se oženil se svou první manželkou Jayne Centre, textilní designérkou, v roce 1964. Manželství skončilo po 10 letech. V roce 1986, se oženil s Kelly Rector, se kterou zůstal 20 let. Jejich svatba byla v minulosti tématem číslo jedna.