Ihre KI. Ihre Daten. Ihre Kontrolle. – Lokale KI sicher und souverän im eigenen Unternehmen einsetzen
Grundlagen und Anwendungsmöglichkeiten lokaler, selbst gehosteter KI-Systeme
Sie werden in die Grundlagen und Anwendungsmöglichkeiten lokaler, selbst gehosteter KI-Systeme eingeführt, für alle Unternehmen, die Wert auf Datensouveränität, Unabhängigkeit und Kosteneffizienz legen.
Im Mittelpunkt stehen kleinere Open-Source-Modelle, die auf unternehmenseigenen Servern oder sogar auf leistungsfähigen Laptops betrieben werden können. Es werden die dafür erforderlichen Hardware-Voraussetzungen sowie Software-Tools wie Ollama, LM Studio und vergleichbare Lösungen praxisnah vorgestellt.
Anhand konkreter Anwendungsbeispiele aus der produzierenden Industrie – vom KI-Chatbot für sensible Projektdaten, über die automatisierte Auswertung und Extraktion von z.B. Lieferscheinen aus dem Wareneingang, der Extraktion von Aufgaben und Informationen aus unstrukturierten Meetingmitschriften bis hin zur Formulierung von Texten für Emails oder Angebote – wird gezeigt, wie lokale KI produktiv eingesetzt werden kann, ohne dass Unternehmensdaten das Haus verlassen.
Ziel ist es, sowohl strategische Entscheidungsgrundlagen für den Umstieg von cloudbasierten Foundation-Modellen auf lokale Alternativen zu schaffen als auch technischen Entscheidern das nötige Wissen für Auswahl, Betrieb und Integration dieser Modelle an die Hand zu geben.
Inhalte
– Datensouveränität vs. Kosten und Nutzen: wann der Einsatz einer lokalen KI ein strategischer Vorteil sein kann
– Grundlagen lokaler KI: Wie funktionieren Open-Source-LLMs und was unterscheidet sie von den großen cloudbasierten Foundation-Modellen (ChatGPT, Claude, Gemini)?
– Hardware-Anforderungen im Überblick: was braucht man wirklich für den produktiven Betrieb auf Server und Laptop?
– Software-Tools für den lokalen KI-Betrieb: Einführung in Ollama, LM Studio und vergleichbare Werkzeuge
– Modellauswahl für die Praxis: Welches Open-Source-Modell eignet sich für welchen Anwendungsfall? Vergleich von aktuellen OpenSource Modellen an konkreten Anwendungsfällen
– Effektives Prompting mit lokalen Modellen: Strukturierung, Formatierung und Einsatz von Trennzeichen und Beispielen – Besonderheiten und Grenzen kleinerer Modelle
– Entwicklung und Anwendung von Prompt Templates (Blueprints) für wiederkehrende Aufgaben in Unternehmen
– Praxisbeispiel: KI-Chatbot für sensible Unternehmensdaten
– Praxisbeispiel: Automatisierte Zusammenfassung von Besprechungstranskripten mit einem lokalen Modell
– Praxisbeispiel: Extraktion von Texten und Daten aus Bilddaten (z. B. Lieferscheine, Wareneingangsprüfung) und Überführung in strukturierte Formate (Excel, CSV, JSON)
– Praxisbeispiel: Lokale KI-Agenten zur automatisierten Texterstellung z.B. für Emails oder Angebotstexte
– Integrationspfade: Wie lassen sich lokale Modelle in bestehende IT-Landschaften (ERP, MES, DMS) einbinden?
Zielgruppe:
– Führende Mitarbeiter und Entscheider, die Datensouveränität und Unabhängigkeit von Cloud-Anbietern als strategisches Ziel verfolgen
– Technische Entscheider, IT-Leiter und Administratoren, die sich mit dem Gedanken tragen, von großen cloudbasierten Foundation-Modellen auf lokal berechenbare Open-Source-Modelle zu wechseln und die dafür nötige Infrastruktur bewerten möchten
– Führende Mitarbeiter und Entscheider aus IT, IT-Infrastruktur und Entwicklung, die lokale KI-Lösungen evaluieren, aufbauen und betreiben wollen
– Führende Mitarbeiter und Entscheider aus Vertrieb, Produktion, Qualitätssicherung, Marketing und HR, die KI-gestützte Automatisierung nutzen möchten, ohne sensible Unternehmensdaten an externe Dienste zu übermitteln