Gesetzesentwurf in Kalifornien: KI-Assistenten sollen sich als Maschine zu erkennen geben

Die automatische Gesprächsführung durch KI-Assistenten wird zum aktuellen Zeitpunkt unter anderem von Google und Microsoft vorangetrieben. Durch einen neuen Gesetzesentwurf in Kalifornien wird das als Auslöser genommen, um darüber zu diskutieren, ob sich solche KI-Assistenten gegenüber ihren Gesprächspartnern klar und deutlich als “Bots” erkennen zu geben haben.

Weitreichende Folgen durch Gesetzesentwurf

Eigentlich soll die große Stärke ausgereifter KI-Assistenten einmal sein, dass sie eben nicht als digitale Bots zu erkennen sind, sondern genauso natürlich wie Menschen kommunizieren. Genau das stellt für die Verantwortlichen im US-Bundesstaat Kalifornien aber auch eine mögliche Gefahr dar. Daher wird derzeit der Gesetzesentwurf diskutiert, ob sich die Maschinen nicht doch als Bots erkennen geben müssen. Das würde laut dem Entwurf immer unmittelbar am Anfang des Gespräches zur Pflicht werden. Geschieht das nicht und findet der Gesprächspartner heraus, dass er mit solch einer künstlichen Intelligenz telefonierte, könnten diese Bots gemeldet werden – inklusive empfindlicher Strafen für die Betreiber. Noch ist aber nicht klar, ob diese Regelung nur für die englische Sprache Gültigkeit haben soll.

Weitere Einschränkungen

Selbiges soll zudem für Kommunikationen gelten, die via Videochat oder in Chatfenstern geführt werden. Im Falle der Videochats müsste eine Warnung für mindestens vier Sekunden angezeigt werden, ebenso muss der Bot in Chatfenstern direkt eingangs erwähnen, dass es sich hierbei eben nicht um einen menschlichen Gesprächspartner handelt. Setzt sich das Gesetz in Kalifornien durch, ist davon auszugehen, dass auch andere US-Bundesstaaten und langfristig vielleicht die EU nachziehen werden. Für die Unternehmen, die aktuell an solchen künstlichen Bots arbeiten, dürfte das weitreichende Folgen haben. Am wahrscheinlichsten davon ist, dass der Gegenüber das Gespräch sofort beenden würde, was die praxisorientierte Verbreitung solcher Bots natürlich vehement hemmen und sie zugleich relativ ineffizient gestalten würde. Positiv könnte sein, dass Konsumenten dadurch vor betrügerischen Bot-Anrufen geschützt werden.