KI kann dazu beitragen, die Gesellschaft zum Besseren zu gestalten

Oct 26, 2023

Zusammenarbeit anstelle von Befehl und Kontrolle ist der Schlüssel zur Schaffung kulturell und ethisch positiver Systeme

Eines der ersten Bilder von KI, die mir begegneten, war ein weißer, geisterhafter, feindseliger, körperloser Kopf. Es war im Computerspiel Neuromancer, programmiert von Troy Miles und basierend auf William Gibsons Cyberpunk-Roman. Andere Menschen sind HAL 9000 möglicherweise zum ersten Mal aus Stanley Kubriks „2001: Odyssee im Weltraum“ oder Samantha aus „Her“ von Spike Jonze begegnet.

Bilder aus der Popkultur beeinflussen die Eindrücke der Menschen von KI, aber die Kultur hat einen noch tieferen Bezug dazu. Wenn man aus diesem Artikel eines mitnehmen kann, dann ist es die Idee, dass KI-Systeme keine objektiven Maschinen sind, sondern auf der menschlichen Kultur basieren: unseren Werten, Normen, Vorlieben und Verhaltensweisen in der Gesellschaft. Diese Aspekte unserer Kultur spiegeln sich in der Art und Weise wider, wie Systeme konstruiert werden. Anstatt also zu entscheiden, ob KI-Systeme objektiv gut oder schlecht für die Gesellschaft sind, müssen wir sie so gestalten, dass sie die ethisch positive Kultur widerspiegeln, die wir wirklich wollen.

Hier ein Beispiel: Roger Dannenberg, Professor an der Carnegie Mellon University in Pittsburgh, hat ein KI-System entwickelt, das mit Menschen Musik spielt. Es begleitet Interpreten auf der Grundlage von Vorstellungen über Tonhöhe, Tonleiter, Tempo usw., die man als Facetten der westlichen Musiktheorie bezeichnen könnte. Im Gegensatz dazu hat der Komponist und Gelehrte George E. Lewis, der einer Tradition entstammt, die in der afrikanischen Diaspora beheimatet ist – Jazz und andere Traditionen, wie sie von der Chicagoer Association for Advancement of Creative Music gepflegt werden –, ein System namens Voyager geschaffen, das „nicht hierarchisch, interaktiv“ ist musikalisches Umfeld, das Improvisation bevorzugt“. Die Ergebnisse sind sehr unterschiedlich. Dannenbergs System erzeugt eine Ausgabe, die einem herkömmlichen Interpreten effektiv folgt – es klingt, als würde es die erwarteten Noten treffen. Im Gegensatz dazu sorgt Lewis‘ System im Dialog mit einem Interpreten für Überraschungen, manchmal übernimmt es ein Solo, manchmal spielt es, während die menschlichen Solos – weder der Mensch noch die Maschine – dominieren.

Der Sound von Voyager liegt irgendwo zwischen dem des Avantgarde-Jazz-Größen Sun Ra und einem javanischen Gamelan-Ensemble. Die Werte jedes Systems basieren auf den Kulturen, aus denen die Musiker und Programmierer stammen: messbare Kontrolle vs. improvisierte Zusammenarbeit, was zu wichtigen Unterschieden im Output jedes Systems führt.

Heutzutage spielen KI-Systeme eine Rolle bei der Generierung von Texten und Bildern, der Diagnose von Krankheiten und sogar in autonomen Waffensystemen. Man könnte solche Systeme als Anhänger des Menschen oder als kreative Unterstützung für den Menschen erschaffen; Wir können die Beziehung zwischen Maschine und Mensch als auf Befehl und Kontrolle beruhend betrachten – oder als Grundlage für die Zusammenarbeit, indem wir herausfinden, was Menschen am besten können und was der Computer am besten kann, damit sie erfolgreich zusammenarbeiten können. Beide Ansätze haben ihre Berechtigung – ich habe jedoch das Gefühl, dass letzterer Ansatz derzeit weniger bekannt und weniger verbreitet ist. Die Schaffung von KI-Systemen, die auf vielen verschiedenen Kulturen basieren und über angemessene ethische Richtlinien verfügen, kann dabei helfen, Abhilfe zu schaffen.

Menschen können Computersysteme absichtlich mit den Werten und Weltanschauungen entwerfen, die wir wollen. Beispielsweise hat das MIT Center for Advanced Virtuality, das ich gegründet und geleitet habe, Simulationen wie Breakbeat Narratives entwickelt, eine Zusammenarbeit mit dem Universal Hip Hop Museum und Microsoft. Das System nutzt die Technologien unseres Zentrums, Charaktere, die mit dem Comiczeichner Black Kirby erstellt wurden, Microsoft-Konversations-KI und Musikarchivinhalte der TunesMap Educational Foundation, um Hip-Hop-Geschichte entsprechend dem Musikgeschmack und den Interessen des Benutzers zu vermitteln. Wenn Sie beispielsweise Roots-Musik mögen und sich für weibliche Hip-Hop-Künstlerinnen interessieren, können Sie sich eine kurze Dokumentation über die Selbstdarstellung von Frauen im Hip-Hop mit einem Soundtrack aus Hip-Hop-Songs mit Samples aus Country und Western besorgen und Bluegrass.

Ich hatte auch das Vergnügen, mit dem Kriegsfotojournalisten und VR-Künstler Karim Ben Khelifa an einem von ihm geleiteten Projekt namens „The Enemy“ zusammenzuarbeiten, das es den Zuschauern ermöglichte, die Perspektiven von Kombattanten auf beiden Seiten von Konflikten in der Demokratischen Republik Kongo, El Salvador, journalistisch zu erfahren und Gaza – während das Erlebnis auf der Grundlage der Körpersprache der Benutzer als Indikator für ihre potenziellen Vorurteile und Aufmerksamkeit angepasst wird.

Wir entwickeln KI- und Computersysteme für den kreativen Ausdruck, das Lernen und das soziale Wohl, indem wir Geschichten und Erfahrungen sinnvoll an die Menschen anpassen, die sie nutzen. Es besteht eine große Chance für KI, durch ein solches Design einen positiven sozialen Einfluss zu haben – aber um dies zu erreichen, muss das Feld interdisziplinärer sein und die Ziele und Erkenntnisse der Künste, Geistes- und Sozialwissenschaften wertschätzen.

Ich vertrete keine utopische Sicht auf KI. Sie haben wahrscheinlich schon von neueren Ansätzen wie „Deep Learning“ und „Large-Language-Modellen“ gehört – von Systemen wie Dall·E 2 und GPT-4. Menschen nutzen sie für viele Zwecke: Spieler erstellen Charaktere für Dungeons & Dragons, Anwälte erstellen rechtliche Anträge.

Solche Systeme nutzen neuronale Netze und Ansätze, die Deep Learning und große Sprachmodelle beinhalten. Für Menschen ist es schwierig, genau zu interpretieren, warum sie bestimmte Bilder oder Texte ausgeben (die „Gründe“ des Systems sind ein Muster aus fein abgestimmten statistischen Werten und numerischen Gewichtungen). Wenn Prozesse undurchsichtig sind und auf großen Datenmengen basieren, die auch auf kulturellen Werten basieren, können unfaire Vorurteile und andere soziale Missstände ihren Weg in die Systeme finden.

Wir müssen uns der kulturellen Werte bewusst sein, auf denen die KI basiert, und sie sorgfältig gestalten. Mit Sorgfalt können wir Systeme aufbauen, die auf mehreren Weltanschauungen basieren – und wichtige ethische Fragen im Design wie Transparenz und Verständlichkeit ansprechen. KI bietet außergewöhnliche kreative Möglichkeiten; Aber die Schöpfer müssen soziokulturelle Arbeit leisten, die mindestens so schwierig ist wie die technische Entwicklung dieser Systeme – und vielleicht sogar noch schwieriger. Es gibt Zeiten, in denen ein Command-and-Control-Paradigma in der Informatik angebracht ist. Wenn wir jedoch KI betrachten, gibt es Zeiten, in denen wir stattdessen mehr Jazz-ähnliche Möglichkeiten für kreative, kollaborative Improvisation sehen müssen.

D Fox Harrell ist Professor für digitale Medien, Informatik und künstliche Intelligenz am Massachusetts Institute of Technology