Zum Inhalt springen

Entscheidungshilfe

Start › 10 · Entscheidungshilfe

Entscheidungshilfe – was setze ich wofür ein?

Die Landkarte in Entscheidungen übersetzt: erst der Entscheidungsbaum für die Grundsatzfragen, dann die Situations-Tabelle.

Müssen die Daten im Haus bleiben? (Datenschutz, Geschäftsgeheimnisse, Compliance) JA → lokal NEIN → Cloud ok Wie viele Nutzer gleichzeitig? nur du ↔ ganzes Team/Produkt ich allein viele Ollama + Open WebUI + offenes Modell (gpt-oss, Qwen, Llama) auf PC/Mac vLLM oder NIM auf Server-GPU / DGX, davor LiteLLM fürs Team Ein Anbieter oder flexibel? fester Favorit ↔ vergleichen & wechseln fester Favorit flexibel Direkte API OpenAI / Anthropic / Google oder einfach die Chat-Apps OpenRouter / LiteLLM ein Zugang, alle Modelle, jederzeit wechselbar Und: Soll die KI eigenes Wissen nutzen oder anders klingen? gilt unabhängig von lokal/Cloud Eigenes WISSEN → RAG (+ Vektor-DB) Anderes VERHALTEN → LoRA / Fine-Tuning
Schaubild 12: Zwei Fragen klären fast alles: (1) Datenschutz → lokal oder Cloud, und in welcher Größenordnung. (2) Wissen vs. Verhalten → RAG oder LoRA.
Deine SituationEmpfehlungWarum
Nur mal ausprobieren, ein LaptopOllama + gpt-oss-20b oder QwenIn Minuten startklar, kostenlos, Consumer-Hardware reicht
Private ChatGPT-Alternative fürs TeamOpen WebUI + Ollama/vLLMVertraute Bedienung, Daten bleiben im Haus
Maximale Qualität, kein BetriebsaufwandTop-Modell per API / Chat-AppGPT, Claude & Gemini bleiben die Spitze
Viele Modelle vergleichenOpenRouterEin Konto, hunderte Modelle
Team-Setup mit Kostenkontrolle & UnabhängigkeitLiteLLM (selbst gehostet)Budgets, Schlüssel, freier Anbieterwechsel
KI soll unser Firmenwissen kennenRAG + Vektor-DBAktuell, belegbar, ohne Training änderbar
KI soll in unserem Ton/Format antwortenLoRA / Fine-TuningVerhalten dauerhaft ins Modell trainiert
KI soll Aufgaben selbst erledigenAgent + MCP (+ Skills)Werkzeuge + Vorgehenswissen = echtes Handeln
KI soll mitprogrammierenClaude Code / Codex / Gemini CLI + AGENTS.mdAgentische Schleife + gute Steuer-Dateien = beste Ergebnisse
Große Modelle lokal / Fine-Tuning im HausStarke GPU bzw. DGX Spark + vLLM/NIM128 GB Unified Memory für Modelle bis ~200B

Der rechtliche Rahmen: EU AI Act Stand September 2026

Die Entscheidung „was setze ich ein“ hat in der EU eine zweite Hälfte: was muss ich dabei einhalten. Die KI-Verordnung (EU AI Act) gilt seit 2024 und wird stufenweise scharf. Drei Dinge sind für den Alltag wichtig – und sie werden regelmäßig verwechselt.

WasSeit wannWen trifft es
Transparenzpflichten (Art. 50): Ein Chatbot muss sich als KI zu erkennen geben; generierte Inhalte werden maschinenlesbar markiert; Deepfakes und KI-Texte zu Themen öffentlichen Interesses werden sichtbar gekennzeichnet.2. August 2026 – gilt bereitsPraktisch jeden, der etwas mit KI veröffentlicht oder einen Assistenten anbietet
Verbotene Praktiken und die Regeln für Basismodelle (GPAI) sowie die Pflicht zu KI-Kompetenz im Unternehmenseit 2024/2025 – unverändert in KraftAnbieter und Betreiber; von der Verschiebung nicht berührt
Hochrisiko-Pflichten (Anhang III): Konformitätsbewertung, CE-Kennzeichnung, technische Dokumentationverschoben auf 2. Dezember 2027Nur wer ein Hochrisiko-System baut oder betreibt – die Minderheit

Die Verschiebung der Hochrisiko-Fristen kommt aus dem Digital Omnibus, auf den sich die EU Ende Juni 2026 politisch verständigt hat. Wichtig: Das ist eine politische Einigung, noch kein endgültig geltendes Recht – wer darauf plant, verfolgt den Gesetzgebungsgang weiter.

Die einzige Frage, die zuerst zählt: In welche Risikoklasse fällt das, was ihr baut? Erst diese Einordnung entscheidet, welche der verschobenen oder weiterlaufenden Fristen für euch überhaupt praktisch sind. Wer kein Hochrisiko-System betreibt, war vom August-Termin 2026 weitgehend nicht betroffen – die Transparenzpflichten gelten trotzdem.
Keine Rechtsberatung. Dieser Abschnitt ordnet ein und ersetzt keine juristische Prüfung. Fristen und Auslegung bewegen sich; der aktuelle Text steht im EU AI Act Explorer, verbindlich ist der Rechtstext selbst.
Merksätze: Wissen → RAG · Verhalten → LoRA · Handeln → Agent+MCP · Datenschutz → lokal · Spitzenleistung → Cloud · Flexibilität → Router (LiteLLM/OpenRouter).