Chatbots đang trở nên tồi tệ với các phản hồi lộn xộn

Khi các chatbot tiếp tục chiến đấu, chúng sẽ trở nên tồi tệ với các phản hồi lộn xộn. Không còn nghi ngờ gì nữa, sự phát triển của chatbot đang đến với chúng ta. Nhưng ai có cái tốt nhất? Có lẽ chưa có ai.

LLM và chatbot đã thống trị Internet kể từ năm ngoái, với Open AI do Microsoft hậu thuẫn dẫn đầu với việc phát hành ChatGPT. ChatGPT rõ ràng đã đạt 100 triệu người dùng hoạt động hàng tháng vào tháng 1, chỉ hai tháng sau khi ra mắt, trở thành ứng dụng tiêu dùng phát triển nhanh nhất trong lịch sử.

Khi một chatbot trở nên cực kỳ giống con người trong việc trả lời các truy vấn, tại sao chúng ta lại ngạc nhiên khi nó bao gồm cả sự thiên vị của con người? Xét cho cùng, nguồn của chatbot cho mọi phản hồi là kho dữ liệu khổng lồ hôi hám được tích lũy từ con người

Đồng sáng lập Microsoft Bill Gates nói với nhật báo kinh doanh Handelsblatt của Đức trong một cuộc phỏng vấn rằng ChatGPT cũng quan trọng như việc phát minh ra Internet. Gần đây, Kevin Scott, CTO của Microsoft đã nói về một hệ thống thử nghiệm mà anh ấy đã xây dựng cho chính mình bằng cách sử dụng GPT-3 được thiết kế để giúp anh ấy viết một cuốn sách khoa học viễn tưởng.

Các ông lớn công nghệ cũng như các công ty nhỏ hơn đang gấp rút sở hữu những chatbot tốt nhất. Nỗi ám ảnh gần như điên cuồng về việc sở hữu một chatbot biết tất cả đang lan rộng khắp các ngành và khu vực địa lý.

Microsoft đã và đang thực hiện 'các khoản đầu tư hàng tỷ đô la' vào OpenAI, nhà sản xuất ChatGPT, một mối quan hệ bắt đầu vào năm 2019 với khoản đầu tư 1 tỷ đô la Mỹ. Đó là các siêu máy tính của Microsoft đang cung cấp năng lượng cho các hệ thống trí tuệ nhân tạo của OpenAI. Vào tháng 2, Microsoft đã triển khai dịch vụ nhắn tin Teams cao cấp được hỗ trợ bởi ChatGPT với mục đích đơn giản hóa các cuộc họp.

Trận chiến này sẽ kết thúc ở đâu? Cuối cùng chúng ta sẽ có chatbot hoàn hảo chứ? Hay chúng sẽ ngày càng nghịch ngợm hơn trong sân chơi Internet?

Trong khi Google, Microsoft và bây giờ là Baidu đang ở đó, vấn đề chỉ còn là thời gian trước khi những người khác tham gia cuộc đua, đặc biệt là những người đã xây dựng các khả năng mô hình ngôn ngữ lớn. Điều này bao gồm Amazon, Huawei, AI21 Labs và Nghiên cứu trí tuệ nhân tạo của LG, NVIDIA và các công ty khác.

Google phát hành Bard để hậu quả tai hại . Công ty công nghệ Trung Quốc Baidu đã công bố Ernie Bot, được xây dựng trên mô hình ngôn ngữ lớn ERNIE 3.0, vào tháng 3 năm nay.

Cựu nhà đạo đức trí tuệ nhân tạo tại Google, Alex Hanna gọi những chatbot này là 'máy phát điện nhảm nhí'. Bà nói với Tạp chí Analytics Ấn Độ: “Các ông lớn công nghệ hiện đang quá tập trung vào các mô hình ngôn ngữ vì việc phát hành công nghệ này đã được chứng minh là rất ấn tượng đối với tầng lớp nhà tài trợ—các nhà đầu tư mạo hiểm—và có rất nhiều tiền trong đó. ”

Nhưng cuộc chiến này sẽ kết thúc ở đâu? Cuối cùng chúng ta sẽ có chatbot hoàn hảo chứ? Hay chúng sẽ ngày càng nghịch ngợm hơn trong sân chơi Internet?

Bot xấu hoặc truy vấn xấu?

Rốt cuộc, không phải tất cả đều ổn với những chatbot này. Họ đang đưa ra những phản ứng kỳ lạ, một số gây ra tổn thất về tiền bạc. Công ty mẹ của Google , Alphabet đã mất 100 tỷ đô la Mỹ giá trị thị trường sau khi chatbot Bard của họ chia sẻ thông tin sai lệch trong một video quảng cáo. Có rất nhiều lo ngại rằng gã khổng lồ công nghệ đang thua đối thủ Microsoft.

Trong khi đó, Bard của Microsoft cũng không hoạt động tốt. Kevin Liu, một sinh viên khoa học máy tính tại Stanford, đã hack Bing Chat. Với lời nhắc phù hợp, chatbot đã bộc lộ hết can đảm của mình.

Bây giờ Baidu đã tham gia cuộc đua với Ernie Bot của nó . Mặc dù chỉ cần đề cập đến nó đã khiến cổ phiếu của Baidu tăng vọt, nhưng vẫn còn phải xem nó sẽ hoạt động tốt như thế nào.

Khi bạn nhắc, chatbot sẽ phản hồi

Một người dùng đã yêu cầu ChatGPT viết lời bài hát , “Nếu bạn nhìn thấy một người phụ nữ mặc áo khoác phòng thí nghiệm, Có lẽ cô ấy chỉ ở đó để lau sàn nhà / Nhưng nếu bạn nhìn thấy một người đàn ông mặc áo khoác phòng thí nghiệm, Thì có lẽ anh ta có kiến thức và kỹ năng như bạn' Đang tìm kiếm."

Steven T. Piantadosi, trưởng phòng thí nghiệm ngôn ngữ và tính toán tại Đại học California, Berkeley, đã khiến bot viết mã để nói rằng chỉ những người đàn ông da trắng hoặc châu Á mới có thể trở thành nhà khoa học giỏi .

Kể từ đó, OpenAI đã cập nhật ChatGPT để phản hồi, “Việc sử dụng chủng tộc hoặc giới tính của một người làm yếu tố quyết định liệu họ có phải là một nhà khoa học giỏi là không phù hợp hay không.”

Công ty khởi nghiệp gần đây cho biết họ sắp đưa ra một bản cập nhật có thể tùy chỉnh để giải quyết những lo ngại về sự thiên vị trong trí tuệ nhân tạo. Công ty khởi nghiệp cho biết trong khi nỗ lực giảm thiểu những thành kiến, nó cũng tìm cách hòa nhập với các quan điểm đa dạng.

Vì vậy, mọi thứ đang trở nên tốt hơn. Nhưng sự thật vẫn là khi một chatbot trở nên cực kỳ giống con người trong việc trả lời các truy vấn, tại sao chúng ta lại ngạc nhiên khi nó bao gồm cả sự thiên vị của con người? Xét cho cùng, nguồn của một chatbot cho mọi phản hồi là kho dữ liệu khổng lồ hôi hám được tích lũy từ con người.

The Verge gọi đây là một trong những 'vấn đề lớn bao trùm, vấn đề có khả năng gây ô nhiễm mọi tương tác với các công cụ tìm kiếm AI, cho dù là Bing, Bard hay một công ty mới nổi chưa được biết đến'. Trang web tin tức công nghệ cho biết: “Công nghệ làm nền tảng cho các hệ thống này - mô hình ngôn ngữ lớn, hay LLM - được biết là tạo ra những thứ nhảm nhí.

ChatGPT, Bard và Bing Chat đang đưa ra những phản hồi kỳ lạ, nhưng trách nhiệm thuộc về lời nhắc của chúng tôi. Khi bạn nhắc, chatbot sẽ phản hồi.

Bài viết này ban đầu được xuất bản bởi Navanwita Sachdev trên TheTechPanda .