Am 10. Juli 1941 erteilten der litauische Stadtkommandant Jurgis Bobelis und der Bürgermeister Kazys Palčiauskas den Befehl, die Juden der Stadt hätten bis zum 15. August im Stadtteil Vilijampolė – von den Juden Slobodka genannt – in das dort vorgesehene Ghetto umzuziehen. Dem Befehl zur Ghettoisierung vorausgegangen waren die entsprechende Ankündigung des Chefs der Einsatzgruppe A, Walter Stahlecker, eine Anordnung Karl Jägers, Chefs des SS-Einsatzkommandos 3, und ein Treffen eines Vertreters der Wehrmacht mit einer Delegation der jüdischen Gemeinde. Ein jüdisches Komitee sollte für den „geordneten“ Umzug sorgen.
Mit der Errichtung des Ghettos wurde die Freilassung von hunderten jüdischer Frauen und Kinder in Aussicht gestellt, die noch in Todesangst im VII. Fort festgehalten wurden. Den jüdischen Vertretern war die Erpressung klar, der sie schließlich nachgaben. Ende Juli / Anfang August 1941 übernahm die inzwischen installierte deutsche Besatzungsverwaltung – in Kaunas das Stadtkommissariat unter SA-Oberführer Hans Cramer – die Federführung. Mit Ausnahme sog. Sicherheitsfragen, für die die SS die Zuständigkeit behielt, war das Stadtkommissariat für alle „Ghetto-Angelegenheiten“ (u.a. Unterhalt, Einsatz zur Zwangsarbeit, Verwaltung des geraubten Vermögens) in Kooperation mit der litauischen Stadtverwaltung verantwortlich. Innerhalb des Stadtkommissariats war der erst 27-jährige Litauendeutsche Fritz Jordan für das Ghetto zuständig.
Vom 15. August an war das Ghetto Kaunas durch Stacheldraht und Wachmannschaften hermetisch abgeriegelt. Innerhalb des Ghettos lag die Veranwortung für die Organisation und Verwaltung beim „Ältestenrat“ der jüdischen Ghetto-Gemeinde. Elkes Elchanan, dem man wegen seines Renommees als hervorragender Arzt und seiner guten Beziehungen eine starke Verhandlungsposition zutraute, wurde zum Leiter des Ältestenrats gewähllt – einer der wenigen „Judenräte“, der nicht von der deutschen Besatzung eingesetzt wurde – Leib Garfunkel zu seinem Stellvertreter. Im Unterschied zum Ghetto Vilnius blieb die Ghetto-Polizei ebenfalls unter Kontrolle des „Ältestenrat“, weshalb sie später eine aktive Rolle im Widerstand einnehmen wird.
Innerhalb von wenigen Wochen waren im Ghetto fast 30.000 Menschen in ärmlichen Holzhäusern zusammengepfercht. Das „große“ und „kleine“ Ghetto waren durch eine Holzbrücke durch die Panerių-Straße miteinander verbunden. Es gab dort keine Kanalisation und kein fließendes Wasser. Chaim Yelin, der spätere Führer des Widerstands im Ghetto Kaunas, schrieb 1941: “So, dies ist das Ghetto für Kovnos Juden. Das fromme Slobodka mit seinen Yeshivas und Lehrhäusern ... Das alte Slobodka: halb verfallene Hütten, bucklige kleine Häuser mit Dächern aus moosbegrünten Schindeln, halb eingedrückten Dachsparren und vom Wind gespaltenen Wänden. ... Die Brücke ist sechs Meter hoch, hölzern, wie ein Bogen über die Straße gepannt. Sie führt hoch, runter, verbindet den einen Teil der Dvarostraße mit der anderen, und mit der Paneruistraße darunter, auf der von Pferden gezogene Karren und Autos fahren. Unter der Brücke geht das christliche Leben weiter. Über die Brücke geht der 'kriminelle' Jude“ (Yelin zit. in Dieckmann 2011).