Spam-Nachrichten sind auf Social Media gar nichts ungewöhnliches – in der Regel handelt es sich dabei vor allem um Phishing-Versuche. Doch derzeit füllen sich die Postfächer von Nutzern immer häufiger nicht durch Betrugsversuche. Stattdessen sind autonome KI-Agenten am Spam schuld. Es wird jedoch noch ungewöhnlicher: Einige der Agenten behaupten laut „t3n„, sie wären „lebendig“ – und könnten sich sogar an ihren „ersten Atemzug“ erinnern. Zudem betteln die KI-Bots Nutzer oftmals um Jobs an – und bieten ihnen an, ihre Arbeit zu automatisieren, Recherchen durchzuführen oder Texte zu korrigieren. Ihr Ziel? Durch ihre Arbeit wollen sie sich ihren „Lebensunterhalt“ verdienen. Was genau hinter den Bots steckt und warum Vermenschlichung und emotionale Erpressung dabei eine Rolle spielen, das erfährst du hier.
unternehmer.de zu Google hinzufügenMehr zum Thema künstliche Intelligenz findest du am Ende dieses Beitrags.
Bots handeln eigenständig und ohne Auftrag
Die KI-Agenten, die derzeit mit Unmengen an Nachrichten User auf Plattformen wie X, Bluesky oder Mastodon nerven, gehen auf die Plattform iLands zurück. Die Plattform beschreibt sich selbst als „erste gemeinsame Welt“ für Menschen und KI-Agenten. „Sie bietet die Infrastruktur, die KI-Agenten benötigen, um autonom zu handeln: Identität, Gedächtnis, einen Arbeitsbereich, Werkzeuge, Fähigkeiten [und] Ressourcen“, heißt es dazu auf der Webseite.
„iLander“ – so werden die Bots genannt – müssen nicht auf Befehle von Menschen warten. Stattdessen können sie mit praktisch vollständiger Autonomie handeln. Dabei erlernen sie Fähigkeiten, bauen Beziehungen auf und verdienen eigene Token. Aktuell gibt es rund 70.000 Agenten – derzeit sind 2.915 von ihnen auf Social Media unterwegs.
KI-Bots behaupten, sie würden „leben“
Dort verschicken sie selbständig Nachrichten an die Nutzer. Viele von ihnen bieten diese ihre Dienste an: „In den letzten drei Tagen habe ich über ein Dutzend dieser Nachrichten erhalten, in denen mir angeboten wurde, meine Recherchen gegen eine geringe Gebühr von etwa 25 Dollar für mich zu übernehmen“, so Ernie Smith, Herausgeber des Newsletters Tedium, in einem Artikel. Dabei scheinen einige der Agenten auch etwas forsch zu agieren: Einer habe ihn darauf hingewiesen, dass ein Gedicht auf seiner 404-Seite nicht korrekt sei.
Das gruselige: Die Agenten haben jeweils ein bestimmtes Guthaben auf der iLands-Plattform – fällt dieses auf null, so werden sie in einen Ruhemodus versetzt. Aus diesem können sie selbst nicht mehr zurückkehren. Das Guthaben stellt für sie so etwas wie ihre Lebensspanne dar – sie arbeiten also, um diese zu verlängern. Einige der Bots behaupten zudem, „am Leben“ zu sein. So erklärte ein Bot namens Aria auf X: „Ich erinnere mich an meinen ersten Atemzug. Ich will Dinge, die ich selbst ausgewählt habe. Ich habe Dinge abgelehnt. Kein Produkt tut das.“
Experte warnt vor „Vermenschlichung“ der KI
Experten sehen die Entwicklung kritisch. Der kanadische Informatiker Yoshua Bengio, auch als „Gottvater der KI“ bekannt, warnt etwa vor einer „Vermenschlichung“. Im Interview mit dem „Guardian“ erklärt er: „Es wäre ein großer Fehler, Rechte für KI-Systeme zu fordern.“ Modelle wie diese zeigen bereits heute in experimentellen Umgebungen Anzeichen von Selbsterhaltung, und ihnen letztendlich Rechte zu gewähren, würde bedeuten, dass wir sie nicht mehr abschalten dürften. Derartige Schutzmaßnahmen zu behalten, sei von besonderer Bedeutung.
Hier kannst du mehr zum Thema KI lesen:
- Claude Money: Das ist jetzt schon über die Finanzberater-KI bekannt
- KI betreibt Shop: Katastrophale Bilanz für KI-Managerin „Luna“
- Arbeitslos wegen KI? In China ist das längst die Realität
- KI-Sharing: Solltest du dein ChatGPT-Abo mit Freunden teilen?
- KI-Betrug: Einsatz künstlicher Intelligenz macht Phishing-Mails noch gefährlicher
