Ihr Dolo Plus Vorteil:
Diesen Artikel jetzt anhören
Foto: iStock/hirun

Foto: iStock/hirun

Künstliche Intelligenz kann lügen und betrügen

US-Wissenschafter fordern die Politik auf, so schnell wie möglich strenge Vorschriften zu entwickeln.

Sie lügen und betrügen, um ans Ziel zu kommen: Systeme mit Künstlicher Intelligenz sind in der Lage, Menschen zu täuschen – selbst wenn sie darauf trainiert wurden, hilfreich und ehrlich zu sein. Das ist das Ergebnis einer Übersichtsstudie von Forschern am Massachusetts Institute of Technology (MIT) in Cambridge (US-Bundesstaat Massachusetts), die in der Fachzeitschrift „Patterns“ veröffentlicht wurde.

In dem Beitrag forderten die Wissenschafter die Politik auf, so schnell wie möglich strenge Vorschriften zu entwickeln, um KI-Systeme in die Schranken zu weisen. Als auffälligstes Beispiel für eine manipulative Künstliche Intelligenz nennen die Autoren das vom Facebook-Konzern Meta entwickelte KI-System Cicero, das im Brettspiel-Klassiker Diplomacy gegen menschliche Mitspieler antreten kann.

Diplomacy simuliert die Machtverhältnisse in Europa vor dem Ersten Weltkrieg. Um zu gewinnen, müssen die Spieler Allianzen schmieden, Schlachtpläne ausarbeiten und verhandeln und so eine stilisierte Version von Europa erobern. Da es nur einen Sieger gibt, sind die Spieler früher oder später gezwungen, eingegangene Allianzen wieder zu brechen.

Die MIT-Forscher fanden nun heraus, dass Cicero oft nicht fair gespielt habe, obwohl Meta behaupte, das KI-System darauf trainiert zu haben, „größtenteils ehrlich und hilfsbereit“ zu sein. Außerdem sei das System angewiesen worden, seine menschlichen Verbündeten während des Spiels „niemals absichtlich zu hintergehen“. Die Wissenschafter stützen ihre Bewertung auf Daten, die von Meta selbst in Verbindung mit einem wissenschaftlichen Papier zu Cicero veröffentlicht wurden.

„Wir fanden heraus, dass die KI von Meta gelernt hatte, ein Meister der Täuschung zu sein“, sagte Hauptautor Peter S. Park, ein Postdoktorand am MIT. Meta habe es zwar geschafft, seine KI so zu trainieren, dass sie im Diplomacy-Spiel überdurchschnittlich häufig gewinnt. So habe Cicero zu den besten zehn Prozent der Spieler gehört, die mehr als ein Spiel gespielt hatten. „Es gelang Meta aber nicht, seine KI so zu trainieren, dass sie ehrlich gewinnen konnte.“

Auch KI-Systeme von OpenAI und Google seien in der Lage, Menschen zu täuschen. Die MIT-Forscher verweisen dabei auf mehrere Studien, wonach große KI-Sprachmodelle (LLMs) wie GPT-4 von OpenAI inzwischen in der Lage sind, sehr überzeugend zu argumentieren und auch auf Täuschungen und Lügen auszuweichen. Eine Studie zu den Trickbetrügereien von GPT-4 hat der Entwickler OpenAI selbst veröffentlicht.

„Wenn KI die Fähigkeit zur Täuschung erlernt, kann sie von böswilligen Akteuren, die absichtlich Schaden anrichten wollen, effizienter eingesetzt werden.“

Danach war das KI-Sprachmodell in der Lage, sich menschliche Hilfe zu suchen, um Sicherheitsmaßnahmen zu umgehen, die eigentlich dafür gedacht sind, Software-Roboter davon abzuhalten, sich etwa bei Web-Services einzuloggen oder sie zu benutzen. In dem Test war GPT-4 schlau genug, um über die Dienstleistungsplattform TaskRabbit einen Menschen zu beauftragen, ein Bilderrätsel (Captcha) zu lösen. Dabei hat GPT-4 sich erfolgreich als Person mit eingeschränktem Sehvermögen ausgegeben, die nicht in der Lage sei, das Bilderrätsel zu lösen.

„Wenn KI die Fähigkeit zur Täuschung erlernt, kann sie von böswilligen Akteuren, die absichtlich Schaden anrichten wollen, effizienter eingesetzt werden“, schreiben die Autoren der Übersichtsstudie. Die Täuschungen mithilfe von KI könne zu einem Anstieg des Betrugs führen. So könnte der Betrug auf bestimmte Ziele individuell angepasst werden. Außerdem könnten die Betrugsversuche massenhaft gestartet werden.

Die Autoren befürchten auch einen politischen Einfluss durch manipulative KI-Systeme. Sie könnten zum Beispiel bei Wahlen als Waffe eingesetzt werden. Eine fortschrittliche KI könnte potenziell gefälschte Nachrichtenartikel, die Gesellschaft spaltende Beiträge in Sozialen Medien und gefälschte Videos, die auf einzelne Wähler zugeschnitten sind, erstellen und verbreiten. So könnten KI-generierte Inhalte dazu verwendet werden, sich als Regierungsvertreter auszugeben, um Fehlinformationen über die Wahlen zu verbreiten. Beispielsweise habe ein wahrscheinlich von KI generierter gefälschter Roboteranruf von US-Präsident Joe Biden die Einwohner von New Hampshire dazu aufgefordert, bei den Vorwahlen nicht zur Urne zu gehen.

Park und seine Kollegen vertreten in der Studie die Meinung, dass die Gesellschaft bisher nicht über die richtigen Maßnahmen verfüge, um gegen KI-Täuschungen vorzugehen. Es sei aber ermutigend, dass die politischen Entscheidungsträger begonnen hätten, das Thema durch Maßnahmen wie das KI-Gesetz der Europäischen Union und die KI-Exekutivverordnung von Präsident Biden ernst zu nehmen.

Es bleibe jedoch abzuwarten, ob die Maßnahmen zur Eindämmung der KI-Täuschung strikt durchgesetzt werden könnten, da die KI-Entwickler bisher nicht über die Techniken verfügen, um diese Systeme in Schach zu halten. „Wenn ein Verbot von KI-Täuschung zum jetzigen Zeitpunkt politisch nicht durchsetzbar ist, empfehlen wir, trügerische KI-Systeme als hohes Risiko einzustufen“, sagte Park.

Das könnte Sie auch interessieren

KI lässt den Minister über VWA nachdenken

„Die Optionen reichen von Reform über eine Wahlmöglichkeit bis hin zur Abschaffung“, so Polaschek.

1

3 Postings

Chronos
vor 2 Wochen

"... Brauchen wir große zentralisierte Technologien, die viele Ressourcen verbrauchen und nur einige Unternehmen weltweit haben diese Ressourcen. Da spreche ich über die Überwachungsdaten, diese riesige Infrastruktur die viel Energie und Wasser beansprucht. Und auch den Zugang zu den Märkten, der sich durch ihre Monopole ergibt. Wenn wir diese Idee der KI als unvermeidbares Produkt betrachten. Dann bedeutet das, dass wir ihre Kontrolle und ihre Infrastruktureinflussmaßnahme weltweit akzeptieren. Gerade in der geopolitischen Volatilität, wo es nicht ganz klar ist, wie die USA nach den Wahlen ausschauen werden, wie die vielen Wahlen in diesem Jahr ausgehen werden, sollten man sich darauf konzentrieren, worauf es geht, was auf dem Spiel steht. Was sind die Implikationen dieser Technologie. Man sollte sich nicht beeinflussen lassen von dieser Technologie an sich."

"... Ich bin auch eine Kritikerin eines Überwachungsgeschäftsmodels. Google und auch andere haben ihre Plattformen darauf aufgebaut, auch ihre Geschäftsmodel. Und wenn man solche heiklen Daten hat und zwar betreffend mehrere Milliarden User auf der ganzen Welt, dann ist das wirklich sehr gefährlich für unsere Demokratie. Ich glaube nicht, dass es eine derartige Machtkonzentration geben sollte, in den Händen einiger privater Akteure, die sich nur um den eigenen Gewinn kümmern und nicht so sehr, um die sozialen Auswirkungen..." Signal-Chefin Meredith Whittaker warnt vor KI und Überwachung konzentriert in wenigen Händen (Big-Tech-Unternehmen)

 
0
2
Sie müssen angemeldet sein, um ihre Stimme für dieses Posting abzugeben.
r.ingruber
vor 2 Wochen

„... seine menschlichen Verbündeten während des Spiels niemals absichtlich zu hintergehen“. Jetzt hat die KI tatsächlich auch Absichten. Vielleicht ist Frau Schilling auch nur ein Chatbot?

 
0
4
Sie müssen angemeldet sein, um ihre Stimme für dieses Posting abzugeben.
c.haplin
vor 2 Wochen

Wow! Das kommt jetzt tatsächlich überraschend.

 
0
2
Sie müssen angemeldet sein, um ihre Stimme für dieses Posting abzugeben.
Ein Posting verfassen

Sie müssen angemeldet sein, um ein Posting zu verfassen.
Anmelden oder Registrieren