La IA es una arma peligrosa en la era de la desinformación

La capacidad de la IA para difundir la desinformación está alcanzando nuevas alturas inquietantes, tal vez la forma más alarmante sea su armonización a través de deepfakes. Recientemente, Scarlett Johansson llamó a una prohibición de la tecnología de deepfake después de que un vídeo apareciera en línea con una versión generada por la IA de ella.

y

“También creo firmemente que el potencial para el discurso de odio multiplicado por la IA es una amenaza mucho mayor que cualquier persona que asuma la responsabilidad por ello.

y

“También creo firmemente que el potencial para el discurso de odio multiplicado por la IA es una amenaza mucho mayor que cualquier persona que asuma la responsabilidad por ello.DijoyRevista de personas. el

La gente se dirige a menudo a la IA para acelerar las cosas o crear sensación, especialmente en la industria de los medios.Fue capturadousar la IA para crear citas y historias falsas.Crear historias sensacionales con la ayuda de la IA ya ha demostrado ser peligroso.Nació deDesinformación en Internet.

Después del incidente de tres niñas siendo asesinadas trágicamente en el Reino Unido, los manifestantes crearon imágenes generadas por la IA que incitaban al odio y difundieron estereotipos dañinos.El guardiánLos grupos de extrema derecha también utilizaron generadores de música de IA para crear canciones con contenido xenófobo.

El pasado mes de octubre, segúnConexiónLos motores de búsqueda impulsados por la IA como Google, Microsoft y Perplexity se encontraron promoviendo el racismo científico en los resultados de búsqueda.

¿Recuerdas cuando el xAI de Elon Musk lanzó Grok-2, un generador de imágenes utilizando Flux con casi ninguna salvaguardia?Esta característica permitió a los usuarios crear deepfakes no censurados, comoLa vicepresidenta Kamala Harris y Donald Trumpposeer como una pareja, provocando profundas preocupaciones, es esteLibertad creativa sin precedentes¿O una amenaza peligrosa para la democracia y la integridad del discurso público?

Los deepfakes de Taylor Swift, las mujeres políticas y los niños que se volvieron virales el año pasado están forzando a las compañías de tecnología a sentarse y tomar nota. Henry Ajder, un experto en inteligencia artificial generativa que ha estudiado los deepfakes durante casi una década dijo:El algoritmo"Estamos en un punto de inflexión donde la presión de los legisladores y la conciencia entre los consumidores es tan grande que las compañías de tecnología ya no pueden ignorar el problema".

y

"Estamos en un punto de inflexión donde la presión de los legisladores y la conciencia entre los consumidores es tan grande que las compañías de tecnología ya no pueden ignorar el problema". - Henry Ajder, experto en Gen AI.

y

“We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.”Henry Ajder, experto en genes AI.

Google dice que esTomar medidas para mantener deepfakes explícitosde aparecer en los resultados de búsqueda. Las marcas de agua y los escudos de protección no han funcionado realmente hasta ahora. Pero la regulación está siendo elevada. Por ejemplo, el Reino Unido prohibió tanto la creación como la distribución de deepfakes explícitos no consensuados. La UE tiene su Ley de IA y los EE.UU. ha estado presionando por la Ley de Defensa.

Las startups comoSynthesia promete deepfakes hiperrealistas con cuerpos completosque se mueve y las manos que ondulan. Deepfakes simplemente se están volviendo mucho más realista. ¿Cómo vamos a detener el lado malo de esto?

AI is Aiding in Financial Fraud

Noticias falsas generadas por IA se propagan en las redes socialesAumentar los riesgos de las corridas bancarias, según un nuevo estudio británico que dice que los prestamistas deben mejorar el seguimiento para detectar cuándo la desinformación corre el riesgo de afectar al comportamiento del cliente.

La investigación de JuniperprediccionesEl valor del fraude en el comercio electrónico aumentará de 44,3 B$ en 2024 a 107 B$ en 2029, un crecimiento del 141%.

Todo gracias a la IA, que está alimentando la sofisticación de los ataques en todo el ecosistema del comercio electrónico, con el uso de deepfakes creados utilizando la IA para derrotar a los sistemas de verificación siendo una amenaza clave.Esta amenaza, combinada con niveles crecientes de “fraude amigable”, donde el fraude es cometido por el propio cliente, como el fraude de reembolso, está amenazando cada vez más la rentabilidad de los comerciantes.

La IA está ayudando a los estafadores a permanecer por delante de las medidas de seguridad y a cometer ataques sofisticados a una escala mayor.La IA también está haciendo posibles ataques de mayor calidad a una frecuencia sin precedentes al crear mensajes creíbles e identidades sintéticas.

Should AI be as open as the internet?

El jefe de AI de Meta, Yann LeCun, haUrgenciasLeCun explicó que plataformas como ChatGPT y Llama constituirán un repositorio de todo el conocimiento y cultura humana, creando una infraestructura compartida como la de Internet hoy en día.

Eldijoque no podemos tener un pequeño número de asistentes de IA (OpenAI ChatGPT y similares) controlando la dieta digital de cada ciudadano de todo el mundo. “Esto será extremadamente peligroso para la diversidad de pensamiento, para la democracia, para casi todo”, añadió.

A medida que la IA se vuelve cada vez más humana, debemos recordar que todavía no es humana.Tecnología de BloombergLa IA es software y no muestra la inteligencia humana.

"Tiene inteligencia si quieres darle ese apodo, pero no es la misma inteligencia que yo tengo", dice.

Navanwita Bora Sachdev, Editor, The Tech Panda