Warum lokale KI?

Was bei Cloud-KI mit Ihren Daten geschieht

Wer einem KI-Dienst in der Cloud eine Aufgabe gibt, schickt den vollständigen Text an die Server des Anbieters: das Dokument, die Frage und alles, was darin steht. Dort wird er verarbeitet, oft protokolliert und je nach Vertrag eine Zeit lang gespeichert.

• Übermittlung. Viele große KI-Anbieter haben ihren Sitz in den USA. Nach dem US CLOUD Act können US-Behörden von solchen Unternehmen Daten verlangen, auch wenn diese in Europa gespeichert sind.
• Speicherung und Training. Ob Eingaben gespeichert oder zum Training verwendet werden, regeln Vertragsbedingungen. Diese Bedingungen können sich ändern.
• Weitere Beteiligte. Jeder Dienst in der Kette ist ein weiterer Auftragsverarbeiter, den Sie prüfen, vertraglich binden und Ihren Mandanten, Patienten oder Kunden erklären müssen.

Was das für Berufsgeheimnisträger heißt

Rechtsanwälte, Ärzte, Steuerberater und andere Berufsgeheimnisträger dürfen Dienstleister nur unter engen Voraussetzungen einbeziehen (§ 203 StGB, für Rechtsanwälte § 43e BRAO). Bei Cloud-KI kommen Fragen zur Übermittlung in Drittländer nach Art. 44 ff. DSGVO hinzu. Jede Information, die das Haus nicht verlässt, muss dafür nicht abgesichert werden.

Was lokale KI heute kann

Sprachmodelle mit einigen Milliarden Parametern laufen auf einem Arbeitsplatzrechner mit Grafikkarte oder auf einem Server im eigenen Haus. Spezialisierte Modelle zum Erkennen und Einordnen brauchen oft nicht einmal eine Grafikkarte. Für Aufgaben wie das Erkennen von Namen in Dokumenten, das Zuordnen von Schreiben oder das Zusammenfassen von Texten reicht das in vielen Fällen aus.

• Keine Übermittlung und keine Auftragsverarbeitung für die KI.
• Feste Kosten statt eines Preises pro Anfrage.
• Funktioniert ohne Internetverbindung.
• Gleiches Modell, gleiches Ergebnis: Ein neues Modell kommt erst, wenn Sie es einspielen.

Wo lokale KI an Grenzen stößt

Die größten Sprachmodelle laufen nur in Rechenzentren. Lokale Hardware kostet Geld und muss gepflegt werden. Deshalb kennt NOCIP drei Stufen: Wo eine Cloud-KI nötig ist, soll sie keine personenbezogenen Daten sehen (Silber) oder nur pseudonymisierte (Bronze).

Woran Sie gute Software erkennen

Fragen Sie Ihren Anbieter, wo jedes Modell läuft und welche Daten es sieht. Die zehn Fragen an Ihren Softwareanbieter helfen dabei. Ein NOCIP-Label beantwortet sie für Sie, technisch geprüft: Gold, Silber und Bronze.

Diese Seite gibt einen Überblick und ist keine Rechtsberatung.