HK 4 היה אקדח ראשון של החברה המפורסמת הקלר וקוך. דגמים הראשונים פיתח ב 1952 אחד מהמייסדי החברה- אלכס זיידל.אב-טיפוס של האקדח היה MauserHS, אותו פיתח אלכס כאשר היה עובד בחברה מאוזר. ב1962 זיידל עמד בראשו  של הצוות לפיתוח אקדח קומפקטי שיכול להתאים גם לכוחות הביטחון ומשטרה וגם לשוק האזרחי.  

האקדח קיבל סימון 4 בגלל היכולת לירות ארבע קליברים שונים: 5,6 מ"מ, 6,35 מ"מ בראונינג, 7,65 מ"מ בראונינג ו9 מ"מ בראונינג קצר.
ייצור סידרתי של הקלר וקוך התחיל ב1968 והסתיים ב1984. סה"כ מיוצר 38 אלף אקדחים ה"ק 4.
מבנה של האקדח מאוד דומה למאוזר: גוף והדק כמעט זהים, גם פיתרון שמאפשר להחליף את הקנה אומץ ממנו. להבדיל ממאוזר גוף של הקלר וקוך עשוי מאלומיניום והמחלק מברזל, קנה בזמן הירי סטטי, קפיץ מחזיר ממוקם מסביב לקנה.
לצורך העברה לקליבר אחר צריך להחליף קנה, קפיץ ומחסנית בלבד. נצרה נמצאת בצד שמאל של האקדח, במצב נצור נוקר יורד למטה כך שהפטיש לא אוכל להגיע עליו, הדק נשאר לא חסום, בדרך זו אפשר ללחוץ עליו וירי לא יתבצע.  נצרה אוטומטית חוסמת את ההדק  עם מחסנית לא בהיכנס.