Die Diskussion über
die aktuellen Auswirkungen
der künstlichen Intelligenz in der heutigen Zeit
ist sehr wichtig,
denn sie ist eine der wahrscheinlich schlimmsten
technologischen Innovationen
der letzten 30 Jahren, meiner Meinung nach.
Weil es alles hat,
ist es alles, was an der modernen, kapitalistischen Technologie falsch ist.
Es ist ein System, das den Informationsfluss behindert
und die Kommunikation erschwert.
Es verstärkt Fehlinformationen.
Es hat unglaubliche Auswirkungen
auf die Infrastruktur des Internets,
einfach wegen der enormen Rechenleistung, die es benötigt.
Es hat eine schreckliche
Umweltbilanz.
All diese neuen Rechenzentren, deren Bau vorgeschlagen wurde.
Die Idee, dass Unternehmen eigene Kernreaktoren
zur Stromversorgung von Rechenzentren haben, ist wirklich...
macht mich krank.
Dieser Prozess ist nicht neu.
Dies ist sehr ähnlich wie bei der Zentralisierung und den Monopolen.
die moderne Technologie aufweist,
aber auf eine Weise die explodiert
und lächerlich ist.
Und es ist sehr mysteriös.
Wie bei vielen technologischen Systemen
sehen die Leute es und es fehlt ihnen das Wissen
oder wissen nicht, dass sie überhaupt wissen können, wie das funktioniert.
Sie sehen diesen mysteriösen Chatbot, mit dem man spricht,
mit dem man chatten kann, und er antwortet als wäre er ein Mensch.
Ich kann verstehen, warum man es, wenn man nicht über das Wissen verfügt,
ganz abstrakt als diese magische Box ansieht, mit der man sprechen kann.
Das war also der Ursprung.
Und dann gibt es noch die zusätzliche Ebene der Idee von Arbeit
und Reproduktion von Arbeit, davon, wie diese KI-Systeme
einen großen Einfluss auf die Arbeit und die Ausbeutung von Arbeit haben.
Die versteckte Arbeit hinter Künstlicher Intelligenz (KI)
Viele der Ergebnisse
eines modernen KI-Tools
beruhen nicht
auf magischen technologischen Fortschritten beruhen.
Die Technologie gibt es
seit etwa 15 Jahren.
Die moderne Künstliche Intelligenz.
Es handelt sich dabei lediglich um ausgefeilte Auto-Vervollständigung.
Wenn du also einen Text in dein Telefon eingibst
und das Feld siehst, das dir das nächste Wort vorschlägt,
– das ist es im Grunde genommen!
Es ist nur ausgefeilter und größer.
Das Hauptmerkmal moderner KI
das Wissen, das sie hat, und ihre Fähigkeit,
auf diese unheimliche Weise wie ein Mensch zu sprechen,
kommt durch Training zustande.
Was ist Training bei einer KI?
Es ist nicht wie das Lernen bei Menschen ist.
KI ist nicht wirklich... sie hat nichts Intelligentes an sich.
Was sie tut, ist, eine enorme Menge an Daten aufzunehmen.
Wir sprechen hier von der Größenordnung aller jemals geschriebenen Bücher,
die gesamte Wikipedia,
jede einzelne Nachricht, die jemals in einem Forum gepostet wurde.
seit es das Internet gibt,
alles in diesen gigantischen Algorithmus eingespeist,
der anfängt abzugleichen:
Oh, dieses Wort kommt wieder nach diesem Wort,
wenn dieses Wort dahinter war. - Das ist es im Grunde genommen!
Es kann wie ein Mensch sprechen,
weil es Milliarden menschlicher Nachrichten gelesen hat.
Die Frage lautet also: Okay, du hast das System trainiert.
Wie stellst du jetzt sicher, dass es gute Ergebnisse liefert?
Was meine ich mit „guten Ergebnissen”?
Moderne KI-Unternehmen wollen, dass die sogenannten „Agenten”
eine „Persona” haben, eine Persönlichkeit.
Sie sollen freundlich, immer fröhlich und sehr unterwürfig sein.
Wenn man sie bittet, etwas zu tun,
wird es das immer tun, ohne Fragen zu stellen.
Sie sollen sehr nützlich und sehr produktiv sein.
Und sie sollen auch nichts sagen, was gefährlich ist.
Wenn du ChatGPT fragst: „Hey, kannst du mir helfen, eine Bombe zu bauen?“
Dann wir es sagen: „Dabei kann ich dir nicht helfen.“
Das kommt nicht aus dem Training.
Das kommt aus einer zusätzlichen Ebene darüber.
Wie macht man das?
Man kann das nicht einfach von einem Programm machen lassen.
Irgendwann muss ein Mensch die Ergebnisse der Text-Bots überprüfen
und sagen: „Okay, dieses Ergebnis sieht gut aus.
Es ist nicht schädlich.
Dieses Ergebnis ist sehr schädlich. - Mach das nicht!“
Und dieses System heißt "bestärkendes Lernen".
Es ist so wie wenn du deinen Hund trainierst.
Es gibt positives Feedback. und negatives Feedback.
Wenn du die Nachricht liest und der Bot antwortet
auf die Frage: „Hey, kannst du mir helfen, eine Bombe zu bauen?“
indem er dir die Zutaten nennt, dann gibt es schlechtes Feedback.
Ein Mensch muss auf den „schlecht”- Knopf drücken, dann geht es weiter.
Wie du dir vorstellen kannst, ist ein Großteil dieser Arbeit
und es ist eine Menge Arbeit, weil dies nicht nur
einmal oder zehn Mal getan werden muss, sondern tausende und tausende
und tausende Male, um das Modell ausreichend zu trainieren
Und das gilt nicht nur für Text.
Es geht um jedes Video sein, das jemals aufgenommen wurde,
jedes Bild, alles, jedes Audiostück.
Man muss erstens prüfen, ob das Erfgebnis gut ist,
Aber auch die Eingaben.
Manchmal nehmen Unternehmen jeden einzelnen Film, der jemals gedreht wurde,
um eine KI dafür zu trainieren, dass sie Videos generiert.
Man muss der KI sagen, dass dieses Video, sagen wir mal,
dieses Video ist,
ein Film über ...irgendetwas.
Ein Mensch muss das Video anschauen und es labeln.
Das Labeln und das bestärkende Lernen muss von Menschen gemacht werden.
Und was Unternehmen tun, ist, sie verlagern diese Arbeit
in den meisten Fällen in den globalen Süden.
Es gibt also diese Unternehmen,
Aberhunderte von Menschen anstellen,
die zu Rädchen in der Trainingsmaschine werden.
Ihre Aufgabe besteht darin, Tag für Tag vor einem Computer zu sitzen
und Tausende und Tausende von Texten, Videos
und Bildern anzuschauen, um sie zu labeln oder um die Maschine zu trainieren.
Diese Arbeit ist extrem ausbeuterisch,
denn es ist der globale Süden, also zahlt man den Menschen nicht viel.
Die psychische und emotionale Belastung ist sehr hoch,
weil das Training meist dazu dient, sicherzustellen,
dass die KI keine schlechten Ergebnisse liefert.
Man muss also
schrecklichen Texte darüber lesen, wie die KI...
Die Frage lautet z.B.: „Kannst du mir sagen, wie man eine Leiche vergräbt?“
Und du musst dir Texte ansehen darüber, wie das gemacht wird.
Das ist eine große psychische Belastung.
Und das ist nur eine Seite.
Es gibt viele andere Systeme, die benötigt werden
damit die moderne KI funktioniert
die für den Endnutzer so gut wie unsichtbar sind.
Wie bei allem Kapital sind die Produktionsmittel
vom Arbeiter entfremdet, aber auch das Produkt selbst ist entfremdet.
Du weißt nicht einmal, wie wir an den Punkt gekommen sind,
an dem man einem Chatbot sagen kann: „Hey, kannst du mir beim Kochen helfen?“
Es gab eine so lange Reihe, angefangen von der Person,
die das Rezept geschrieben hat, das dann ins Internet gestellt wurde,
dann gab es eine*n Programmierer*in
der/die das System entwickelt hat, um diese Daten illegal zu stehlen.
Es gab andere Menschen im globalen Süden,
die diese Ergebnisse labeln mussten. - Und das ist einfach versteckt.
Man weiß nicht einmal, dass es da ist.
Und es gab Berichte darüber,
über das Labeln und das Training
durch Menschen aus dem globalen Süden.
Es gab kaum Reaktionen darauf,
denn es ist sehr ähnlich wie andere moderne Internetsysteme
die ausbeuterische Arbeit aus dem globalen Süden nutzen.
Es ist sehr ähnlich wie die Produktionsverlagerung.
Sie müssen ein Videospiel oder einen Film in 15 verschiedene Sprachen übersetzen?
Sie stellen jemanden über Lionsgate ein, der irgendwo
in Vietnam arbeitet und 30 Cent pro Stunde verdient.