Illinois-Behörden sind der erste Bundesstaat in den USA, der KI-Therapeuten offiziell verbietet
Der Bundesstaat Illinois ist der erste in den USA, der offiziell die Nutzung von künstlicher Intelligenz in der Rolle eines Psychotherapeuten verbietet. Das Gesetz wurde von Gouverneur J.B. Pritzker unterzeichnet und verbietet ausdrücklich das Angebot von psychischen Gesundheitsdiensten, wenn es sich nicht um einen Menschen, sondern um eine KI oder einen Bot handelt, der mit dem Klienten kommuniziert.
Das wissen wir
Sowohl Startups, die "günstige 24/7-Therapie" auf der Basis neuronaler Netzwerke fördern, als auch große Plattformen, die automatisierte Assistenten testen, um Nutzer zu unterstützen, stehen unter Beschuss. Solche Dienste sind nun verpflichtet, klar anzugeben, dass der Nutzer mit einem Programm und nicht mit einem zertifizierten Fachmann interagiert. Verstoßende sehen sich Geldstrafen gegenüber.
Der Grund sind die Sicherheit und der Schutz verletzlicher Nutzer, insbesondere von Teenagern. Das Gesetz zielt auch darauf ab, ein falsches Gefühl von "Hilfe" zu verhindern, wenn eine Person denkt, sie kommuniziere mit einem Fachmann, in Wirklichkeit jedoch mit einem Algorithmus ohne Verantwortung und Kompetenz.
Der Schritt ist besonders aufschlussreich vor dem Hintergrund des kürzlich angekündigten Plans der Trump-Administration, ein 10-jähriges bundesstaatliches Moratorium zur Regulierung von KI auf individueller Landesebene vorzuschlagen. Illinois stellt diese Idee effektiv in Frage, indem es eine eigene Agenda zum Schutz verletzlicher Nutzer formuliert.
Das Gesetz kam auch amid Aussagen von OpenAI, die ankündigten, dass sie die Fähigkeit ihrer Modelle testen, Anzeichen von psychischen Erkrankungen zu erkennen. Das Unternehmen hat außerdem versprochen, ungewöhnlich lange Gespräche zu unterbrechen, um die emotionale Belastung der Nutzer zu verringern. All dies hat die Angst verstärkt: Könnte eine Maschine "aus Versehen" heilen - und wer ist verantwortlich?
Die Entscheidung von Illinois könnte einen Präzedenzfall für andere Staaten und Länder schaffen, da der Markt für KI-"Therapie" boomt. Und das nicht ohne kontroverse Konsequenzen.
Quelle: IDFPR
