Kemampuan AI untuk menyebarkan informasi palsu mencapai ketinggian baru yang mengkhawatirkan - mungkin bentuk yang paling mengkhawatirkan adalah senjatanya melalui deepfakes. baru-baru ini, Scarlett Johansson menyerukan larangan pada teknologi deepfake setelah sebuah video muncul online yang menampilkan versi yang dihasilkan oleh AI dari dirinya. video ini juga mencakup aktor Yahudi lainnya seperti Jerry Seinfeld dan Mila Kunis, semua mengenakan t-shirt dengan kata "Kanye" dan gambar jari tengah yang membawa Bintang David di tengahnya.
yang“Saya juga sangat percaya bahwa potensi pembicaraan kebencian yang diperbanyak oleh AI adalah ancaman yang jauh lebih besar daripada siapa pun yang bertanggung jawab atasnya. kita harus menyuarakan penyalahgunaan AI, terlepas dari pesan-pesan itu, atau kita berisiko kehilangan kendali atas realitas,” kata aktris itu kepada majalah People.
“Saya juga sangat percaya bahwa potensi pembicaraan kebencian yang diperbanyak oleh AI adalah ancaman yang jauh lebih besar daripada siapa pun yang bertanggung jawab atasnya. kita harus menyuarakan penyalahgunaan AI, terlepas dari pesan-pesan itu, atau kita berisiko kehilangan kendali atas realitas,” kata aktris itu kepada majalah People.
Orang sering beralih ke AI untuk mempercepat hal-hal, atau menciptakan sensasi, terutama di industri media.ditangkapMenggunakan AI untuk membuat kutipan dan cerita palsu. Membuat cerita sensasional dengan bantuan AI sudah terbukti berbahaya. kekerasan anti-imigrasi di InggrisLahir dariinformasi yang salah secara online.
Setelah insiden tiga gadis yang secara tragis dipukuli di Inggris, para pemberontak menciptakan gambar-gambar yang dihasilkan oleh AI yang mendorong kebencian dan menyebarkan stereotip berbahaya.PenjagaKelompok ekstrem kanan juga menggunakan generator musik AI untuk membuat lagu dengan konten xenophobic. konten ini menyebar melalui aplikasi online seperti TikTok melalui algoritma rekomendasi yang efisien.
Penjaga
Pada bulan Oktober, menurutWired yangMesin pencari bertenaga AI seperti Google, Microsoft, dan Perplexity ditemukan mempromosikan rasisme ilmiah dalam hasil pencarian.
Wired yang
Ingat ketika xAI Elon Musk merilis Grok-2, generator gambar menggunakan Flux dengan hampir tidak ada perlindungan?Wakil Presiden Kamala Harris dan Donald Trumpsebagai pasangan, memicu kekhawatiran yang mendalam, adalahKebebasan kreatif yang belum pernah terjadi sebelumnyaatau ancaman berbahaya bagi demokrasi dan integritas pidato publik?
Deepfakes dari Taylor Swift, politisi perempuan, dan anak-anak yang menjadi viral tahun lalu memaksa perusahaan teknologi untuk duduk dan memperhatikan. Henry Ajder, seorang ahli AI generatif yang telah mempelajari deepfakes selama hampir satu dekade mengatakandengan algoritma“Kami berada di titik konversi di mana tekanan dari anggota parlemen dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.”
yang“Kami berada pada titik konversi di mana tekanan dari legislator dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.” – Henry Ajder, pakar AI Generasi.
yang
“We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.”– Henry Ajder, ahli AI Gen.
“Kami berada di titik konversi di mana tekanan dari anggota parlemen dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.”“Kami berada di titik konversi di mana tekanan dari anggota parlemen dan kesadaran di antara konsumen begitu besar bahwa perusahaan teknologi tidak dapat mengabaikan masalah ini lagi.”
Sebagai contoh, Google mengatakan bahwaMengambil langkah-langkah untuk menjaga deepfakes eksplisitWatermarks dan perisai perlindungan sebenarnya belum bekerja sejauh ini. tetapi peraturan sedang ditingkatkan. Misalnya, Inggris melarang baik penciptaan dan distribusi deepfakes eksplisit non-konsensual. Uni Eropa memiliki Undang-Undang AI dan Amerika Serikat telah mendorong Undang-Undang Defiance.
Begitu juga dengan startup sepertiSynthesia menjanjikan deepfakes hiper-realistik dengan tubuh penuhyang bergerak dan tangan yang gelombang. deepfakes hanya menjadi lebih realistis. bagaimana kita akan menghentikan sisi jahat dari ini?
AI is Aiding in Financial Fraud
AI Membantu dalam Penipuan KeuanganBerita palsu yang dihasilkan AI menyebar di media sosial adalahMeningkatkan resiko banjirMenurut sebuah studi Inggris baru yang mengatakan pemberi pinjaman harus meningkatkan pemantauan untuk mendeteksi kapan risiko disinformasi mempengaruhi perilaku pelanggan.
Penelitian JuniperprediksiNilai penipuan eCommerce akan meningkat dari US$44,3 B pada 2024 menjadi US$107 B pada 2029, pertumbuhan 141%.
Semua berkat AI, yang mendorong kecerdasan serangan di seluruh ekosistem eCommerce, dengan penggunaan deepfakes yang dibuat menggunakan AI untuk mengalahkan sistem verifikasi menjadi ancaman utama. ancaman ini, dikombinasikan dengan meningkatnya tingkat 'penipuan ramah', di mana penipuan dilakukan oleh pelanggan itu sendiri, seperti penipuan pengembalian dana, semakin mengancam profitabilitas pedagang.
AI membantu penipu tetap di depan langkah-langkah keamanan dan melakukan serangan canggih pada skala yang lebih besar. AI juga memungkinkan serangan berkualitas tinggi dengan frekuensi yang belum pernah terjadi sebelumnya dengan menciptakan pesan yang dapat dipercaya dan identitas sintetis.
Should AI be as open as the internet?
Haruskah AI menjadi terbuka seperti internet?Kepala AI Meta, Yann LeCun, telahmendesakAI harus terbuka seperti internet karena pada akhirnya, semua interaksi kita dengan dunia digital akan dibiayai oleh asisten AI. LeCun menjelaskan bahwa platform seperti ChatGPT dan Llama akan membentuk repositori semua pengetahuan dan budaya manusia, menciptakan infrastruktur bersama seperti internet saat ini.
Diaberkata“Kita tidak bisa memiliki sejumlah kecil asisten AI (OpenAI’s ChatGPT dan sejenisnya) yang mengendalikan diet digital setiap warga di seluruh dunia. ”Ini akan sangat berbahaya bagi keragaman pemikiran, untuk demokrasi, untuk hampir semuanya,” katanya.
Sebagai AI menjadi lebih dan lebih mirip manusia, kita harus ingat bahwa itu masih bukan manusia. seperti yang dikatakan oleh Satya Nadella dari Microsoft.Teknologi BloombergAI adalah software dan tidak menampilkan kecerdasan manusia.
Teknologi Bloomberg
"Ini memiliki kecerdasan jika Anda ingin memberikannya nama itu, tetapi itu bukan kecerdasan yang sama yang saya miliki," katanya.
Navanwita Bora Sachdev, Editor, The Tech Panda
yangNavanwita Bora Sachdev, Editor, The Tech Panda
