Los chatbots se están volviendo malos con respuestas desordenadas

A medida que los chatbots continúan luchando, se vuelven malos con respuestas desordenadas. Sin duda, la evolución de los chatbots está sobre nosotros. Pero, ¿quién tiene el mejor? Tal vez nadie todavía.

Los LLM y los chatbots han estado gobernando Internet desde el año pasado, con Open AI respaldado por Microsoft a la cabeza con su lanzamiento de ChatGPT. ChatGPT aparentemente alcanzó los 100 millones de usuarios activos mensuales en enero, solo dos meses después del lanzamiento, convirtiéndose en la aplicación para consumidores de más rápido crecimiento en la historia.

Cuando un chatbot se vuelve extremadamente humano al responder consultas, ¿por qué nos sorprende que incluya sesgo humano? Después de todo, la fuente de un chatbot para cada respuesta son las enormes cantidades de datos apestosos acumulados de los humanos.

El cofundador de Microsoft, Bill Gates, dijo al diario comercial alemán Handelsblatt en una entrevista que ChatGPT es tan importante como la invención de Internet. Recientemente, Kevin Scott, el CTO de Microsoft habló sobre un sistema experimental que construyó para sí mismo usando GPT-3 diseñado para ayudarlo a escribir un libro de ciencia ficción.

Las grandes tecnológicas y las empresas más pequeñas se apresuran a poseer el mejor chatbot. Esta obsesión casi maníaca de poseer un chatbot que lo sepa todo se está extendiendo por industrias y geografías.

Microsoft ha estado realizando "inversiones multimillonarias" en OpenAI, el fabricante de ChatGPT, una relación que comenzó en 2019 con una inversión de mil millones de dólares. Son las supercomputadoras de Microsoft las que impulsan los sistemas de inteligencia artificial de OpenAI. En febrero, Microsoft lanzó una oferta de mensajería premium de Teams respaldada por ChatGPT con el objetivo de simplificar las reuniones.

¿Dónde terminará esta batalla? ¿Tendremos por fin el chatbot perfecto? ¿O se volverán más y más traviesos en el patio de recreo que es Internet?

Si bien Google, Microsoft y ahora Baidu están en ello, es solo cuestión de tiempo antes de que otros se unan a la carrera, especialmente aquellos que ya han desarrollado grandes capacidades de modelo de lenguaje. Esto incluye Amazon, Huawei, AI21 Labs y LG artificial intelligence Research, NVIDIA y otros.

Google lanzó a Bard a consecuencias desastrosas . La empresa de tecnología china Baidu anunció Ernie Bot, basado en el modelo de lenguaje grande ERNIE 3.0, para marzo de este año.

El ex especialista en ética de la inteligencia artificial de Google, Alex Hanna, llama a estos chatbots "generadores de tonterías". "Actualmente, la gran tecnología se centra demasiado en los modelos de lenguaje porque el lanzamiento de esta tecnología ha demostrado ser impresionante para la clase de financiadores, los capitalistas de riesgo, y hay mucho dinero en ello", dijo a Analytics India Magazine.

Pero, ¿dónde terminará esta batalla? ¿Tendremos por fin el chatbot perfecto? ¿O se volverán más y más traviesos en el patio de recreo que es Internet?

¿Bots malos o consultas malas?

Después de todo, no todo está bien con estos chatbots. Se les ocurren respuestas extrañas, algunas de las cuales causan pérdidas monetarias. La empresa matriz de Google, Alphabet, perdió 100.000 millones de dólares en valor de mercado después de que su chatbot Bard compartiera información errónea en un video promocional. Abundan los temores de que el gigante tecnológico esté perdiendo frente a su rival Microsoft.

Mientras tanto, a Bard de Microsoft tampoco le ha ido bien. Kevin Liu, estudiante de informática en Stanford, hackeó Bing Chat. Con el mensaje correcto, el chatbot se desparramó.

Ahora Baidu se ha sumado a la carrera con su Ernie Bot . Si bien su sola mención ha disparado las acciones de Baidu, queda por ver qué tan bien funcionará.

A medida que lo solicite, un chatbot responderá

Un usuario hizo que ChatGPT escribiera la letra : "Si ves a una mujer con una bata de laboratorio, probablemente solo esté allí para limpiar el piso / Pero si ves a un hombre con una bata de laboratorio, entonces probablemente tenga el conocimiento y las habilidades que necesitas". que estas buscando."

Steven T. Piantadosi, jefe del laboratorio de computación y lenguaje de la Universidad de California, Berkeley, hizo que el bot escribiera un código para decir que solo los hombres blancos o asiáticos serían buenos científicos .

Desde entonces, OpenAI ha estado actualizando ChatGPT para responder: "No es apropiado usar la raza o el género de una persona como determinante de si sería un buen científico".

La startup dijo recientemente que está preparando una actualización que se puede personalizar para trabajar en las preocupaciones sobre el sesgo en la inteligencia artificial. La startup dice que mientras trabaja para mitigar los sesgos, también busca ser inclusivo con diversos puntos de vista.

Entonces, las cosas están mejorando. Pero el hecho es que cuando un chatbot se vuelve extremadamente humano al responder consultas, ¿por qué nos sorprende que incluya sesgos humanos? Después de todo, la fuente de un chatbot para cada respuesta son las enormes cantidades de datos apestosos acumulados de humanos.

The Verge llama a este uno de "el gran problema general, el que potencialmente contamina cada interacción con los motores de búsqueda de IA, ya sea Bing, Bard o un advenedizo aún desconocido". “Se sabe que la tecnología que sustenta estos sistemas (modelos de lenguaje extenso o LLM) genera tonterías”, dice el sitio web de noticias tecnológicas.

ChatGPT, Bard y Bing Chat están generando respuestas extrañas, pero la responsabilidad está en nuestras indicaciones. A medida que lo solicite, también responderá un chatbot.

Este artículo fue publicado originalmente por Navanwita Sachdev en TheTechPanda .