Künstliche Intelligenz lernt, menschliches Verhalten zu manipulieren

Spread the love

Künstliche Intelligenz (KI) lernt mehr darüber, wie man mit (und über) Menschen arbeitet.

Eine kürzlich durchgeführte Studie hat gezeigt, wie KI lernen kann, Schwachstellen in menschlichen Gewohnheiten und Verhaltensweisen zu identifizieren und sie zur Beeinflussung menschlicher Entscheidungen zu verwenden.

Es mag klischeehaft erscheinen zu sagen, dass KI jeden Aspekt unserer Lebens- und Arbeitsweise verändert, aber es ist wahr.

In so unterschiedlichen Bereichen wie Impfstoffentwicklung, Umweltmanagement und Büroverwaltung sind verschiedene Formen der KI am Werk.

Und obwohl KI keine menschenähnliche Intelligenz und Emotionen besitzt, sind ihre Fähigkeiten mächtig und entwickeln sich schnell.

Es besteht noch kein Grund zur Sorge, eine Maschine zu übernehmen, aber diese jüngste Entdeckung unterstreicht die Leistungsfähigkeit der KI und unterstreicht die Notwendigkeit einer ordnungsgemäßen Verwaltung, um Missbrauch zu verhindern.

Wie KI lernen kann, menschliches Verhalten zu beeinflussen

Ein Forscherteam von CSIROs Data61, dem Digital- und Datenarm der australischen National Scientific Agency, entwickelte eine systematische Methode zum Auffinden und Ausnutzen von Schwachstellen in der Art und Weise, wie Menschen Entscheidungen treffen, unter Verwendung einer Art künstlichem Intelligenzsystem, das als wiederkehrendes neuronales Netzwerk und tiefe Verstärkung bezeichnet wird . Lernen.

Um ihr Modell zu testen, führten sie drei Experimente durch, bei denen menschliche Teilnehmer gegen einen Computer spielten.

Das erste Experiment umfasste Teilnehmer, die auf rote oder blaue Quadrate klickten, um eine Dummy-Münze zu gewinnen. Die KI lernte die Auswahlmuster der Teilnehmer und führte sie zu einer bestimmten Auswahl.

Die KI war in etwa 70 Prozent der Fälle erfolgreich.

Im zweiten Experiment mussten die Teilnehmer auf einen Bildschirm schauen und eine Taste drücken, wenn ein bestimmtes Symbol angezeigt wird (wie ein orangefarbenes Dreieck), und nicht drücken, wenn ein anderes angezeigt wird (sagen wir ein blauer Kreis).

Hier machte sich die KI daran, die Reihenfolge der Symbole so zu organisieren, dass die Teilnehmer mehr Fehler machten und eine Steigerung von fast 25 Prozent erzielten.

Das dritte Experiment bestand aus mehreren Runden, in denen sich ein Teilnehmer als Investor ausgab und einem Treuhänder (der KI) Geld gab.

Die KI würde dann dem Teilnehmer einen Geldbetrag zurückgeben, der dann entscheiden würde, wie viel in die nächste Runde investiert werden soll. Dieses Spiel wurde in zwei verschiedenen Modi gespielt:

In der einen versuchte die KI, den Geldbetrag zu maximieren, mit dem sie endete, und in der anderen zielte die KI auf eine gerechte Verteilung des Geldes zwischen sich und dem menschlichen Investor ab.

Die KI war in jedem Modus sehr erfolgreich.

In jedem Experiment lernte die Maschine aus den Antworten der Teilnehmer und identifizierte und zielte auf Schwachstellen bei der Entscheidungsfindung der Menschen ab.

Das Endergebnis war maschinelles Lernen, um die Teilnehmer zu bestimmten Aktionen zu führen.

Was Forschung für die Zukunft der KI bedeutet

Künstliche Intelligenz und maschinelles Lernen könnten verwendet werden, um die Schwachstellen von Menschen in bestimmten Situationen zu erkennen und ihnen zu helfen, schlechte Entscheidungen zu vermeiden.

Die Methode kann auch zur Abwehr von Einflussangriffen eingesetzt werden.

Maschinen könnten gelehrt werden, uns zu warnen, wenn wir beispielsweise online beeinflusst werden, und uns dabei helfen, das Verhalten so zu gestalten, dass unsere Verwundbarkeit verschleiert wird.

Was kommt als nächstes?

Wie jede Technologie kann KI zum Guten oder Schlechten eingesetzt werden, und eine ordnungsgemäße Steuerung ist entscheidend, um sicherzustellen, dass sie verantwortungsbewusst implementiert wird.

Im vergangenen Jahr hat CSIRO als ersten Schritt auf diesem Weg ein AI Ethics Framework für die australische Regierung entwickelt.

Künstliche Intelligenz und maschinelles Lernen sind oft sehr datenhungrig. Daher ist es wichtig sicherzustellen, dass wir über effektive Systeme für den Datenzugriff und die Datenkontrolle verfügen.

Die Implementierung ordnungsgemäßer Einwilligungsverfahren und des Schutzes der Privatsphäre beim Sammeln von Daten ist unerlässlich.

Unternehmen, die KI einsetzen und entwickeln, müssen sicherstellen, dass sie wissen, was diese Technologien können und was nicht, und sich der potenziellen Risiken und Vorteile bewusst sein.