A capacidade da IA para difundir a desinformación está alcanzando novas alturas perturbadoras -quizais a forma máis alarmante sexa a súa armonización a través de deepfakes. Recentemente, Scarlett Johansson pediu unha prohibición da tecnoloxía de deepfake despois de que un vídeo aparecese en liña cunha versión xerada por IA dela.
que“Tamén creo firmemente que o potencial para o discurso de odio multiplicado pola IA é unha ameaza moito maior que calquera persoa que tome a responsabilidade por iso.
que
“Tamén creo firmemente que o potencial para o discurso de odio multiplicado pola IA é unha ameaza moito maior que calquera persoa que tome a responsabilidade por iso.toldqueRevista da xente. .
As persoas están a recorrer con frecuencia á IA para acelerar as cousas, ou crear sensación, especialmente na industria dos medios.Foi capturadousar a IA para crear citas e historias falsas.Crear historias sensacionais coa axuda de IA xa se demostrou perigoso.naceu deDesinformación en liña.
Despois do incidente de que tres nenas foron asasinadas tráxicamente no Reino Unido, os manifestantes crearon imaxes xeradas por IA que incitaban ao odio e difundían estereotipos nocivos.O gardiánOs grupos de extrema dereita tamén utilizaron xeradores de música de IA para crear cancións con contido xenófobo.
O gardián
O pasado mes de outubro, segundoLiñaOs motores de busca impulsados por IA como Google, Microsoft e Perplexity foron atopados promovendo o racismo científico nos resultados da busca.
Liña
Lembra cando o xAI de Elon Musk lanzou Grok-2, un xerador de imaxes usando Flux con case ningunha salvagarda?O vicepresidente Kamala Harris e Donald Trumpcomo unha parella, provocando profundas preocupacións, é esteLiberdade creativa sen precedentesOu unha ameaza perigosa para a democracia e a integridade do discurso público?
Deepfakes de Taylor Swift, políticas femininas e nenos que se viralizaron o ano pasado están forzando ás empresas tecnolóxicas a sentarse e tomar nota.O algoritmo"Estamos nun punto de inflexión onde a presión dos legisladores e a concienciación entre os consumidores é tan grande que as empresas de tecnoloxía xa non poden ignorar o problema".
que"Estamos nun punto de inflexión onde a presión dos legisladores e a concienciación entre os consumidores é tan grande que as empresas de tecnoloxía xa non poden ignorar o problema." - Henry Ajder, experto en IA xenética.
que
“We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.”Henry Ajder, experto en Xen AI.
"Estamos nun punto de inflexión onde a presión dos legisladores e a concienciación entre os consumidores é tan grande que as empresas de tecnoloxía xa non poden ignorar o problema"."Estamos nun punto de inflexión onde a presión dos legisladores e a concienciación entre os consumidores é tan grande que as empresas de tecnoloxía xa non poden ignorar o problema".
Por exemplo, Google dixo que éTomar medidas para manter deepfakes explícitosAs marcas de auga e os escudos de protección non funcionaron ata agora, pero a regulación está a ser aumentada. Por exemplo, o Reino Unido prohibiu tanto a creación como a distribución de deepfakes explícitos non consensuados.
Por exemplo, as startups comoSynthesia promete deepfakes hiperrealistas con corpos completosque movemento e mans que ondas. Deepfakes están a facer todo un pouco máis realista. Como imos parar o lado malo deste?
AI is Aiding in Financial Fraud
AI axuda na fraude financeiraAs noticias falsas xeradas por IA espalladas en redes sociais sonAumentar os riscos das correntes bancarias, segundo un novo estudo británico que di que os prestamistas deben mellorar o seguimento para detectar cando a desinformación corre o risco de afectar o comportamento do cliente.
Investigación de JuniperPrediciónsque o valor da fraude de comercio electrónico aumentará de US$ 44,3 millóns en 2024 a US$ 107 millóns en 2029, un crecemento do 141%.
Todo grazas á IA, que está alimentando a sofisticación dos ataques en todo o ecosistema do comercio electrónico, co uso de deepfakes creados usando IA para derrotar os sistemas de verificación sendo unha ameaza clave.Esta ameaza, combinada co crecemento dos niveis de "fraude amigable", onde a fraude é cometida polo propio cliente, como a fraude de reembolso, está ameazando cada vez máis a rendibilidade dos comerciantes.
A IA está a axudar aos fraudadores a manterse por diante das medidas de seguridade e a cometer ataques sofisticados a unha escala maior.A IA tamén está a facer posibles ataques de maior calidade a unha frecuencia sen precedentes creando mensaxes credibles e identidades sintéticas.
Should AI be as open as the internet?
Debería a AI ser tan aberta como Internet?O xefe de AI de Meta, Yann LeCun, tenUrxenciasLeCun explicou que plataformas como ChatGPT e Llama constituirán un repositorio de todo o coñecemento e cultura humana, creando unha infraestrutura compartida como a internet hoxe.
quedixoNon podemos ter un pequeno número de asistentes de IA (OpenAI's ChatGPT e similares) controlando a dieta dixital de cada cidadán de todo o mundo. "Isto será extremadamente perigoso para a diversidade de pensamento, para a democracia, para case todo", engadiu.
A medida que a IA se fai máis e máis humana, debemos lembrar que aínda non é humana.Como dixo Satya Nadella de MicrosoftTecnoloxía BloombergA IA é software e non mostra a intelixencia humana.
Tecnoloxía Bloomberg
"Ten intelixencia se queres darlle ese apelido, pero non é a mesma intelixencia que teño", di.
Navanwita Bora Sachdev, editor, The Tech Panda
queNavanwita Bora Sachdev, Editor, The Tech Panda
