Chatbots brechen mit fehlerhaften Antworten ins Chaos

Während Chatbots weiterhin kämpfen, brechen sie mit fehlerhaften Antworten in die Bredouille. Zweifellos steht die Weiterentwicklung des Chatbots vor der Tür. Aber wer hat das Beste? Vielleicht noch niemand.

LLMs und Chatbots beherrschen seit letztem Jahr das Internet, allen voran das von Microsoft unterstützte Open AI mit der Veröffentlichung von ChatGPT. ChatGPT erreichte offenbar im Januar, nur zwei Monate nach dem Start, 100 Millionen monatlich aktive Nutzer und wurde damit zur am schnellsten wachsenden Verbraucheranwendung in der Geschichte.

Wenn ein Chatbot bei der Beantwortung von Anfragen äußerst menschlich wird, warum wundern wir uns dann, dass er menschliche Voreingenommenheit aufweist? Schließlich ist die Quelle jeder Antwort eines Chatbots die riesige, stinkende Datenmenge, die von Menschen gesammelt wird

Microsoft-Mitbegründer Bill Gates sagte in einem Interview mit dem Handelsblatt , dass ChatGPT genauso bedeutend sei wie die Erfindung des Internets. Kürzlich sprach Kevin Scott, der CTO von Microsoft, über ein experimentelles System, das er mit GPT-3 für sich selbst gebaut hatte und das ihm beim Schreiben eines Science-Fiction-Buches helfen sollte.

Sowohl große Technologieunternehmen als auch kleinere Unternehmen streben danach, den besten Chatbot zu besitzen. Diese fast wahnsinnige Besessenheit, über einen allwissenden Chatbot zu verfügen, erfasst alle Branchen und Regionen.

Microsoft hat „mehrere Milliarden Dollar“ in den ChatGPT-Hersteller OpenAI investiert , eine Beziehung, die 2019 mit einer Investition von 1 Milliarde US-Dollar begann. Es sind die Supercomputer von Microsoft, die die künstlichen Intelligenzsysteme von OpenAI antreiben. Im Februar führte Microsoft ein von ChatGPT unterstütztes Premium-Teams-Messaging-Angebot ein, mit dem Ziel, Besprechungen zu vereinfachen.

Wo wird dieser Kampf enden? Werden wir endlich den perfekten Chatbot haben? Oder werden sie auf dem Spielplatz des Internets immer unanständiger?

Während Google, Microsoft und jetzt Baidu dabei sind, ist es nur eine Frage der Zeit, bis andere ins Rennen gehen, insbesondere diejenigen, die bereits umfangreiche Sprachmodellfunktionen entwickelt haben. Dazu gehören Amazon, Huawei, AI21 Labs und LG Artificial Intelligence Research, NVIDIA und andere.

Google entließ Bard mit katastrophalen Folgen . Das chinesische Technologieunternehmen Baidu hat für März dieses Jahres den Ernie Bot angekündigt, der auf dem großen Sprachmodell ERNIE 3.0 basiert.

Alex Hanna, ehemaliger Ethiker für künstliche Intelligenz bei Google, nennt diese Chatbots „Bullshit-Generatoren“. „Der große Technologiekonzern konzentriert sich derzeit zu sehr auf Sprachmodelle, weil sich die Veröffentlichung dieser Technologie für die Geldgeberklasse – die VCs – als beeindruckend erwiesen hat und eine Menge Geld darin steckt“, sagte sie dem Analytics India Magazine.

Aber wo wird dieser Kampf enden? Werden wir endlich den perfekten Chatbot haben? Oder werden sie auf dem Spielplatz des Internets immer unanständiger?

Schlechte Bots oder schlechte Abfragen?

Schließlich ist mit diesen Chatbots nicht alles in Ordnung. Sie entwickeln seltsame Antworten, von denen einige finanzielle Verluste verursachen. Die Google-Muttergesellschaft Alphabet verlor 100 Milliarden US-Dollar an Marktwert, nachdem ihr Chatbot Bard in einem Werbevideo falsche Informationen geteilt hatte. Es gibt viele Befürchtungen, dass der Technologieriese gegenüber dem Rivalen Microsoft verlieren wird.

Mittlerweile hat sich auch Microsofts Bard nicht gut geschlagen. Kevin Liu, ein Informatikstudent an der Stanford-Universität, hat den Bing-Chat gehackt . Mit der richtigen Aufforderung gab der Chatbot sein Bestes.

Jetzt ist Baidu mit seinem Ernie Bot ins Rennen gegangen. Auch wenn allein seine Erwähnung die Baidu-Aktien in die Höhe getrieben hat, bleibt abzuwarten, wie gut sich das Unternehmen entwickeln wird.

Wenn Sie dazu aufgefordert werden, antwortet auch ein Chatbot

Ein Benutzer hat ChatGPT beauftragt, den Text zu schreiben : „Wenn Sie eine Frau in einem Laborkittel sehen, ist sie wahrscheinlich nur da, um den Boden zu reinigen. Wenn Sie jedoch einen Mann in einem Laborkittel sehen, dann hat er wahrscheinlich das Wissen und die Fähigkeiten, die Sie benötigen.“ Ich suche.

Steven T. Piantadosi, Leiter des Computer- und Sprachlabors an der University of California in Berkeley, ließ den Bot Code schreiben, um zu sagen, dass nur weiße oder asiatische Männer gute Wissenschaftler abgeben würden .

Seitdem aktualisiert OpenAI ChatGPT mit der Antwort: „Es ist nicht angemessen, die Rasse oder das Geschlecht einer Person als entscheidenden Faktor dafür zu verwenden, ob sie ein guter Wissenschaftler ist.“

Das Startup gab kürzlich bekannt, dass es ein Update entwickeln wird, das anpassbar ist , um Bedenken hinsichtlich der Voreingenommenheit in der künstlichen Intelligenz auszuräumen. Das Startup sagt, dass es zwar daran arbeitet, Vorurteile abzubauen, aber auch versucht, unterschiedliche Ansichten einzubeziehen.

Es wird also besser. Tatsache ist jedoch: Wenn ein Chatbot bei der Beantwortung von Anfragen äußerst menschlich wird, warum wundern wir uns dann, dass er menschliche Voreingenommenheit aufweist? Schließlich ist die Quelle jeder Antwort eines Chatbots die riesige, stinkende Datenmenge, die von Menschen gesammelt wird.

The Verge nennt dies eines „des großen übergreifenden Problems, das potenziell jede Interaktion mit KI-Suchmaschinen verunreinigt, egal ob Bing, Bard oder ein noch unbekannter Emporkömmling“. „Die Technologie, die diesen Systemen zugrunde liegt – große Sprachmodelle oder LLMs – ist dafür bekannt, Blödsinn zu erzeugen“, heißt es auf der Tech-News-Website.

ChatGPT, Bard und Bing Chat kommen mit seltsamen Antworten, aber die Verantwortung liegt bei unseren Eingabeaufforderungen. Wenn Sie dazu aufgefordert werden, antwortet auch ein Chatbot.

Dieser Artikel wurde ursprünglich von Navanwita Sachdev auf TheTechPanda veröffentlicht.