Die Ethik lokaler LLMs: Reaktion auf Zuckerbergs „Open Source AI Manifesto“

Das „Open Source AI Manifest“

Mark Zuckerberg wird von Richard Stallman seit Jahrzehnten gehasst und er ist die einzige Person, die auf den beiden Titelbildern der Video-Essays „Wie das Internet gestohlen wurde“ und „Wie KI gestohlen wurde“ von „Then & Now“ erscheint.

Die Dinge haben sich jedoch kürzlich geändert, nachdem er das Fediverse übernommen und Llama kontinuierlich als Open Source veröffentlicht hat .

In seinem neuesten „Open Source AI Manifesto“ formulierte Zuckerberg fünf Anforderungen an Open Source:

• Wir müssen unsere eigenen Modelle trainieren, feinabstimmen und destillieren.
• Wir müssen unser eigenes Schicksal kontrollieren und dürfen uns nicht an einen geschlossenen Anbieter binden.
• Wir müssen unsere Daten schützen.
• Wir brauchen ein Modell, das effizient und kostengünstig zu betreiben ist.
• Wir möchten in das Ökosystem investieren, das langfristig den Standard setzen wird.

Das beschreibt die Bedürfnisse von Einzelpersonen und kleinen Unternehmen im Technikbereich genau.

Der Grund, warum ich es „Manifest“ nenne, liegt darin, dass der Eindruck, den man beim Lesen dieses Artikels bekommt, stark an das GNU-Manifest erinnert.

Wir danken dem GNU-Projekt, das uns freie Betriebssysteme ermöglicht hat; und dem LLaMA-Entwicklungsteam, das uns zu echten offenen KIs gemacht hat.

Dialektik des Egoismus und Altruismus

In „Die Theorie der ethischen Gefühle“ schrieb Adam Smith:

Für wie egoistisch der Mensch auch gehalten werden mag, es gibt offensichtlich gewisse Grundsätze in seiner Natur, die ihn am Glück anderer interessiert und deren Glück für ihn notwendig machen, obwohl er nichts daraus zieht, außer der Freude, es zu sehen.

Diese Idee des selbstsüchtigen Altruismus oder ethischen Egoismus wurde von vielen österreichischen Schulen und Verhaltensökonomen weitergeführt und wurde schließlich zu einem zentralen Prinzip der neoliberalen Ideologie .

Im Fall von Zuckerberg und seinen Meta ist es jedoch komplexer.

In seiner Erklärung ist sich Zuckerberg der Vorteile bewusst, die die Nutzung von Open Source mit sich bringt – profitabel und dennoch moralisch.

Wie wir alle wissen, kümmert sich im Silicon Valley niemand wirklich um das „Gemeinwohl“ und will auch nicht wirklich „die Welt zu einem besseren Ort machen“. Sie sind lediglich ihren Stakeholdern gegenüber verantwortlich.

Aber wie wäre es mit einer Win-Win-Situation?

Das ist genau das, was sie der Öffentlichkeit glauben (fühlen) lassen wollen.

Die dialektische Struktur bleibt die gleiche wie die Dialektik zwischen Egoismus und Altruismus – ein eigennütziger Geschäftsmann, der nach Profit strebt, aber vorgibt, moralisch zu sein.

Wichtig ist: Wird dadurch eine Win-Win-Situation zum Wohle der Allgemeinheit entstehen?

Die Antwort lautet: Es kommt darauf an, und höchstwahrscheinlich nein. Diese „too big to fail“-Unternehmen sind im Kern reaktionär.

Das Gemeinwohl zu erreichen ist schwer, und es ist naiv zu glauben, dass es das Nebenprodukt der Selbstsucht des [großen] Anderen ist. Sofern wir, die 99 % , nicht als proaktive Akteure an dieser dialektischen Bewegung beteiligt sind. Andernfalls wird unsere Gesellschaft durch die Klimakrise zerstört, bevor sie überhaupt die Chance hat, in eine „posthumane Dystopie“ zu geraten.

Kein Schrumpfen, keine Beschleunigung

Wie ich bereits in meiner Rede über die Gefahren der Technologie erwähnte, werden die großen Technologieunternehmen ihre Rechenzentren niemals aus Gründen der Nachhaltigkeit verkleinern, ohne die zugrunde liegende politisch-ökonomische Ordnung zu ändern – es sei denn, es kommt erneut zum nächsten Konjunkturzyklus bzw. zur nächsten Depression.

Unsere Schätzung der Inferenzkosten von OpenAI in Höhe von 4 Milliarden US-Dollar stammt von einer Person, die mit dem Servercluster vertraut ist, den OpenAI von Microsoft mietet. Dieser Cluster verfügt über das Äquivalent von 350.000 Nvidia A100-Chips, sagte diese Person. Etwa 290.000 dieser Chips oder mehr als 80 % des Clusters trieben ChartGPT an, sagte diese Person.

— Amir Efrati und Aaron Holmes

Als große Investition in die KI-Zukunft von Meta kündigen wir zwei 24k-GPU-Cluster an. Wir verwenden dieses Cluster-Design für das Llama 3-Training. Diese Ankündigung ist ein Schritt in unserer ehrgeizigen Infrastruktur-Roadmap. Bis Ende 2024 wollen wir unseren Infrastrukturausbau weiter vorantreiben. Er wird 350.000 NVIDIA H100-GPUs umfassen, als Teil eines Portfolios, das über eine Rechenleistung verfügen wird, die fast 600.000 H100s entspricht.

— Aufbau der GenAI-Infrastruktur von Meta

Zuckerberg wird seine KI-Cluster weiter ausbauen, um mit OpenAI/MS, Google usw. mithalten zu können. Open-Source ist für Meta letztlich nichts anderes als eine Wettbewerbsstrategie.

Die Vertreter von Noam Chomsky und Kohei Saito für Degrowth sind sehr ansprechend, aber wir sollten uns nie ausschließlich darauf verlassen. So wie eine virtuelle Maschine die Beschränkungen der ihr zugrunde liegenden physischen Maschine nicht überwinden kann. Grüne Politik kann sich nicht einmal halten, wenn sie über der neoliberalen Wirtschaft steht.

Nun ist die Lage klar, aber was ist zu tun? Es ist klar, dass weder Degrowth noch Akzelerationismus im Zeitalter des Anthropozäns hilfreich sind. Aber was ist mit Slavoj Žižeks „gemäßigtem Konservatismus“?

SaaSS oder Cloud-Fiefs?

Im Internet ist proprietäre Software nicht die einzige Möglichkeit, seine Freiheit zu verlieren. Service as a Software Substitute (SaaSS) ist eine weitere Möglichkeit, jemand anderem Macht über Ihren Computer zu geben. SaaSS bedeutet, einen von jemand anderem implementierten Dienst als Ersatz für die Ausführung Ihrer Kopie eines Programms zu verwenden. Der Begriff ist unser eigener; Artikel und Anzeigen verwenden ihn nicht und sie sagen Ihnen nicht, ob es sich bei einem Dienst um SaaSS handelt. Stattdessen verwenden sie wahrscheinlich den vagen und ablenkenden Begriff „Cloud“, der SaaSS mit verschiedenen anderen Praktiken in einen Topf wirft, von denen einige missbräuchlich und andere in Ordnung sind.

Eine der vielen Bedeutungen von „Cloud Computing“ ist die Speicherung Ihrer Daten in Online-Diensten. In den meisten Fällen ist das töricht, da Sie dadurch der Überwachung ausgesetzt werden. Eine andere Bedeutung (die sich damit überschneidet, aber nicht dasselbe ist) ist „Service als Softwareersatz“, was Ihnen die Kontrolle über Ihre Computernutzung verweigert. Sie sollten niemals SaaSS verwenden.

— Richard Stallman, Wem dient dieser Server wirklich?

RMS hat diesen Essay vor langer Zeit geschrieben, doch kürzlich hat Yanis Varoufakis diese Vorstellung vom Freiheitsverlust im heutigen Kontext noch einen Schritt weitergeführt.

Was war nötig, um umwerfende wissenschaftliche Durchbrüche, fantastisch klingende neuronale Netzwerke und unvorstellbare KI-Programme zu erreichen? Arbeiter, die in Lagerhallen schuften, Taxis fahren und Essen ausliefern, in Cloud-Proleten zu verwandeln. Eine Welt zu schaffen, in der Märkte zunehmend durch Cloud-Lehen ersetzt werden. Unternehmen in die Rolle von Vasallen zu zwingen. Und uns alle in Cloud-Leibeigene zu verwandeln, die an ihren Smartphones und Tablets kleben und eifrig das Cloud-Kapital produzieren, das unsere neuen Oberherren im siebten Himmel hält.

— Yanis Varoufakis, Technofeudalismus – Was den Kapitalismus tötete

Im Zeitalter des Cloud-Kapitals wird unsere Freiheit von Cloudalisten genommen, die das Online-Service/SaaSS/Cloud-Lehen besitzen, um uns eine Abonnementgebühr oder sogenannte „Cloud-Miete“ in Rechnung zu stellen. Natürlich wollen sie unsere Geräte (Computer), unsere Aufmerksamkeit (Geldbörse) und unser Leben (Arbeit) kontrollieren.

Wie können wir also unsere Freiheit und Demokratie zurückfordern?

Ich behaupte, dass wir zuerst unser digitales Leben befreien und demokratisieren werden, indem wir Open-Source-Alternativen übernehmen und, wenn möglich, selbst hosten. Das ist meine Version der „Cloud-Rebellion“, um den Technofeudalismus zu stürzen, und es ist derselbe Stein, den Jacob Appelbaum auf den Überwachungs [kapitalismus] geschossen hat.

Es ist das Schwierigste, gegen die Funktionsweise eines Systems zu arbeiten. Das Ergebnis wäre eine noch schlimmere Wirtschaftskrise, die Wiederholung des grünen Kapitalismus und die Gegenreaktion der Alt-Right.

Um diesen Systemstillstand zu überwinden, müssen wir die Rückkopplungsschleifen umgehen und die Hebelpunkte identifizieren und ändern, wie Donella Meadows angibt.

Was also und wo genau sind die Hebelpunkte im kapitalistischen System? Ich denke, es ist jede schöpferische Zerstörung, die Joseph Schumpeter vorgeschlagen hat. Beispielsweise sind der KI-Boom, den wir derzeit erleben, und Llama und Stable Diffusion die stärksten schöpferisch-destruktiven Kräfte, die es gibt.

Wir brauchen auch David Graebers „Direct Action“, aber in unserem digitalen Leben.

Behandlung von Schizophrenie und Depression

Es gibt viele Ressourcen wie Gofoss und Datenschutzleitfäden , mit denen man leicht anfangen kann. Aber wir werden uns jetzt auf lokale LLMs konzentrieren. Tools wie ollama , Jan , GPT4All und llamafile eignen sich hervorragend für selbst gehostete LLMs, entweder auf localhost oder in lokalen Netzwerken.

Dies ist der erste Schritt, um unsere Freiheit von den Oligarchien zurückzugewinnen, indem wir die kreativ-destruktive Kraft der Open-Source-KI nutzen. Das Ziel besteht darin, technisch versierte Menschen zu ermutigen, mehr selbst zu hosten, und nicht technisch versierte Menschen dazu, mehr dezentrale Dienste/Instanzen zu verwenden, die von der Open-Source-Community verwaltet werden, wie z. B. Fediverse.

Ja, Zuckerberg hat Fediverse tatsächlich integriert und LLaMA als Open Source veröffentlicht, und das nicht aufgrund seiner Tugendhaftigkeit. Das gilt auch für Alibaba und seine Qwen. Der Grund dafür ist, dass der Kapitalismus, um es mit Gilles Deleuzes Worten auszudrücken, schizophren ist, was bedeutet, dass er von Natur aus selbstenterritorialisiert ist. Einfach ausgedrückt ist das eine andere Form von Karl Marx‘ berühmter Behauptung – der Kapitalismus ist selbstzerstörerisch.

Wenn wir unsere Umwelt wirklich durch Degrowth retten wollen, muss dies von unten nach oben geschehen, nicht umgekehrt. Mehr selbst gehostete, dezentrale LLMs führen zu einer geringeren Marktnachfrage nach massiven KI-Clustern (zumindest für Inferenz), sodass das Angebot an Rechenzentren spontan zu sinken beginnen wird.

Regulierungen haben zwar ihren Sinn, werden aber in einem wettbewerbsorientierten Markt nie wirklich das Problem lösen, und menschliche Bedürfnisse und Wünsche lassen sich nicht einfach beiseiteschieben. Übermäßige legislative Eingriffe können zu Arbeitslosigkeit führen, was wiederum zu einem Wiederaufleben der Konservativen führt, und zwar in ihrer schlimmsten Form, nämlich zum Ultrakonservatismus.

Das ist es, was Sigmund Freud „die hartnäckige Rückkehr des Verdrängten“ nannte. Die Heilung besteht darin, unabhängiger zu werden – unsere Bedürfnisse selbst zu befriedigen, anstatt uns am Mehrgenuss des Konsums durch den [großen] Anderen satt zu haben.

Die Geschichte hat bewiesen, dass der Kapitalismus, wie wir bereits gesehen haben, nicht durch den Kommunismus beendet werden konnte, aber es handelt sich ganz sicher nicht um Fukuyamas Ende der Geschichte.

Jede Sackgasse (jeder Zyklus) des Kapitalismus kann durch Unternehmertum durchbrochen werden. Nicht im Sinne von „jeder ist ein Unternehmer“, aber jeder hat eine [nicht ganz] gleiche Chance, [auf seine eigene Weise] aktiv zu werden – teilzunehmen, sich einzubringen und mitzuspielen, wenn es um eine technologische Revolution und den darauffolgenden sozialen Wandel geht.

In der lacanianischen Psychoanalyse sollte der Analytiker bei der Behandlung von Psychosen ein Bündnis mit dem Patienten eingehen, indem er die Rolle des Sekretärs (Unternehmer) einnimmt und nach den Regeln des Patienten (freier Markt) spielt. Dann sollte er eine Fixierung (Gelegenheit) finden und den Patienten ermutigen, seine psychische Struktur (Kreislauf) in etwas Stabileres und Nachhaltigeres umzuwandeln. Im Fall des Kapitalismus ist die Fixierung [oder der Ankerpunkt] freie und Open-Source-Software (FOSS).

Das dezentrale Self-Hosting lokaler LLMs ist wie Deleuzes Rhizom. Es kann die Nachfrage des proprietären Marktes verringern und schließlich die KI-Monolithen zerschlagen. Diese frei fließende, produktive Transformation von FOSS ist der Weg, die Krankheit des Kapitalismus zu heilen und unsere Umwelt zu retten.

Wir wissen nicht, wie es nach dem Kapitalismus sein wird, wie Mark Fisher meinte, es ist unmöglich, sich das auch nur vorzustellen. Aber wir müssen immer noch über das nie endende Endspiel des Spätkapitalismus hinausgehen, den depressiven kapitalistischen Realismus aus dem Gefängnis befreien und eine Zukunft neu schaffen, in der alles möglich ist (jeder hat Freiheit).

Hier ist eine Liste der Bücher, die den Kontext dieses Beitrags bilden:

• Ludwig von Mises - Menschliches Handeln: Eine Abhandlung über Ökonomie
• Joseph Schumpeter - Kapitalismus, Sozialismus und Demokratie
• Murray Rothbard - Mensch, Wirtschaft und Staat
• Adam Smith - Die Theorie der ethischen Gefühle
• Kohei Saito - Marx im Anthropozän: Auf dem Weg zur Idee des Degrowth-Kommunismus
• Noam Chomsky - Optimismus statt Verzweiflung
• Donella Meadows - Denken in Systemen
• David Graeber - Fragmente einer anarchistischen Anthropologie
• Yanis Varoufakis - Technofeudalismus: Was den Kapitalismus zerstörte
• Richard Stallman - Freie Software, Freie Gesellschaft
• Jean Baudrillard - Die Konsumgesellschaft
• Gilles Deleuze - Kapitalismus und Schizophrenie
• Francis Fukuyama - Das Ende der Geschichte und der letzte Mensch
• Slavoj Žižek - Weniger als nichts: Hegel und der Schatten des dialektischen Materialismus
• Slavoj Žižek - Das erhabene Objekt der Ideologie
• Bruce Fink - Grundlagen der psychoanalytischen Technik Ein lacanischer Ansatz für Praktiker
• Dany Nobus - Schlüsselkonzepte der lacanianischen Psychoanalyse
• Zygmunt Bauman - Arbeit, Konsum und die neuen Armen
• David Harvey – Eine kurze Geschichte des Neoliberalismus
• Murray Bookchin - Die Ökologie der Freiheit
• Mark Fisher - Kapitalistischer Realismus