チャットボットは、応答がめちゃくちゃで悪くなっています

チャットボットは戦いを続けているため、応答が台無しになっています。チャットボットの進化が近づいていることは間違いありません。しかし、誰が最高のものを持っていますか?多分まだ誰もいない。

LLM とチャットボットは昨年からインターネットを支配しており、Microsoft が支援する Open AI が ChatGPT のリリースをリードしています。 ChatGPT は、ローンチからわずか 2 か月後の 1 月に月間アクティブ ユーザー数が 1 億人に達したようで、史上最も急速に成長している消費者向けアプリケーションになりました。

チャットボットがクエリに非常に人間的に応答するとき、なぜ人間のバイアスが含まれていることに驚くのでしょうか?結局のところ、チャットボットのすべての応答のソースは、人間から収集された大量の悪臭を放つデータ プールです。

Microsoft の共同設立者である Bill Gates は、ドイツの日刊紙 Handelsblatt のインタビューで、ChatGPT はインターネットの発明と同じくらい重要であると語っています。最近、Microsoft の CTO である Kevin Scott は、SF 小説の執筆を支援するために設計された GPT-3 を使用して自分で構築した実験的なシステムについて話しました。

大企業も小規模企業も、最高のチャットボットの所有を急いでいます。すべてを知っているチャットボットを所有することへのこのほとんどマニアックな強迫観念は、業界や地域全体に広まっています。

マイクロソフトは、ChatGPT メーカーの OpenAI に「数十億ドルの投資」 を行ってきました。この関係は、2019 年に 10 億ドルの投資で始まりました。 OpenAI の人工知能システムを動かしている Microsoft のスーパーコンピューター。 2 月、Microsoft は、会議を簡素化する目的で、ChatGPT に支えられたプレミアム Teams メッセージング サービスを展開しました。

この戦いはどこで終わりますか？ついに完璧なチャットボットが完成するでしょうか?それとも、インターネットという遊び場でますますいたずらになるのでしょうか?

Google、Microsoft、そして現在 Baidu がそれに取り組んでいますが、他の企業、特に大規模な言語モデル機能を既に構築している企業が競争に参加するのは時間の問題です。これには、Amazon、Huawei、AI21 Labs、LG 人工知能研究、NVIDIA などが含まれます。

Google は Bard を悲惨な結果に解放しました。中国のテクノロジー企業 Baidu は、大規模な言語モデル ERNIE 3.0 に基づいて構築された Ernie Bot を今年 3 月までに発表しました。

Google の元人工知能倫理学者である Alex Hanna は、これらのチャットボットを「でたらめジェネレーター」と呼んでいます。 「このテクノロジーのリリースは、資金提供者クラス (VC) にとって印象的であることが証明されており、そこには多額の資金が含まれているため、現在、ビッグ テックは言語モデルに集中しすぎています」と彼女はAnalytics India Magazine に語った。

しかし、この戦いはどこで終わるのでしょうか?ついに完璧なチャットボットが完成するでしょうか?それとも、インターネットという遊び場でますますいたずらになるのでしょうか?

悪いボットまたは悪いクエリ?

結局のところ、これらのチャットボットですべてがうまくいっているわけではありません。彼らは奇妙な反応を示しており、中には金銭的損失を引き起こしているものもあります。 Google の親会社であるAlphabet は、チャットボット Bard がプロモーション ビデオで誤った情報を共有した後、1,000 億米ドルの市場価値を失いました。テクノロジーの巨人がライバルのマイクロソフトに負けるのではないかという懸念がたくさんあります。

一方、Microsoft の Bard もうまくいきませんでした。スタンフォード大学のコンピューター サイエンスの学生である Kevin Liu 氏は、Bing Chatをハッキングしました。適切なプロンプトで、チャットボットは内臓をこぼしました。

今、Baidu は自社の Ernie Bot でレースに参加しています。その言及だけで百度の株価は急騰しましたが、それがどれほどうまく機能するかはまだわかりません.

プロンプトが表示されると、チャットボットが応答します

ユーザーが ChatGPT に歌詞を書いてもらいました。「白衣を着た女性を見たら、彼女はおそらく床を掃除するためにそこにいるだけです/しかし、白衣を着た男性を見たら、彼はおそらくあなたの知識とスキルを持っているでしょう」探しています。」

カリフォルニア大学バークレー校の計算および言語研究室の責任者であるスティーブン T. ピアンタドシは、白人またはアジア人の男性だけが優れた科学者になるとボットにコードを書かせました。

それ以来、OpenAI は ChatGPT を更新して、「その人が優れた科学者であるかどうかの決定要因として、人種や性別を使用することは適切ではありません」と対応しています。

スタートアップは最近、人工知能のバイアスに関する懸念に対処するためにカスタマイズ可能なアップデートを考えていると述べた.このスタートアップは、偏見を軽減するために取り組んでいる一方で、多様な見解を包括することも目指していると述べています。

それで、物事は良くなっています。しかし、チャットボットがクエリに非常に人間的に応答する場合、人間のバイアスが含まれていることに驚くのはなぜでしょうか?結局のところ、チャットボットのすべての応答のソースは、人間から収集された大量の悪臭を放つデータ プールです。

The Verge は、これを「大きな包括的な問題であり、Bing、Bard、またはまだ未知の新興企業であるかどうかにかかわらず、AI 検索エンジンとのすべてのやり取りを潜在的に汚染する問題」の 1 つと呼んでいます。 「これらのシステムを支える技術 — 大規模言語モデル (LLM) — はでたらめを生み出すことが知られています」と、技術ニュース Web サイトは述べています。

ChatGPT、Bard、および Bing Chat は奇妙な反応を示していますが、責任は私たちのプロンプトにあります。プロンプトが表示されると、チャットボットが応答します。

この記事は、 TheTechPandaで Navanwita Sachdev によって最初に公開されました。