Het vermogen van AI om misinformatie te verspreiden bereikt verontrustende nieuwe hoogten - misschien wel de meest alarmerende vorm is de wapenisering door deepfakes. onlangs riep Scarlett Johansson op voor een verbod op deepfake-technologie na een video online verscheen met een door AI gegenereerde versie van haar.
De“Ik ben er ook van overtuigd dat het potentieel voor haatspreken vermenigvuldigd door AI een veel grotere bedreiging is dan elke persoon die verantwoordelijkheid voor het neemt.
De
“Ik ben er ook van overtuigd dat het potentieel voor haatspreken vermenigvuldigd door AI een veel grotere bedreiging is dan elke persoon die verantwoordelijkheid neemt voor het.verteldeDeTijdschrift mensen. .
Mensen wenden zich vaak tot AI om dingen te versnellen of sensatie te creëren, vooral in de media-industrie.werd gevangenHet maken van sensationele verhalen met behulp van AI is al gevaarlijk gebleken.werd geboren uitMisinformatie op het internet.
Na het incident van drie meisjes die in het Verenigd Koninkrijk tragisch werden gepest, creëerden opstandelingen AI- gegenereerde beelden die haat aanzetten en schadelijke stereotypen verspreiden.De GuardianExtreemrechtse groepen maakten ook gebruik van AI-muziekgeneratoren om nummers met xenofobe inhoud te maken.
De Guardian
In oktober vorig jaar, volgensWiredAI-aangedreven zoekmachines zoals Google, Microsoft en Perplexity werden gevonden om wetenschappelijk racisme te bevorderen in zoekresultaten.
Wired
Weet je nog wanneer Elon Musk's xAI Grok-2 heeft uitgebracht, een beeldgenerator die Flux gebruikt met bijna geen beveiligingen?Vicepresident Kamala Harris en Donald Trumpposeren als een paar, die diepe zorgen veroorzaakt, is ditEen ongekende creatieve vrijheidOf een gevaarlijke bedreiging voor de democratie en de integriteit van het publieke discours?
Deepfakes van Taylor Swift, vrouwelijke politici en kinderen die vorig jaar viral zijn gegaan, dwingen techbedrijven om op te zitten en op te letten.Het algoritme“We bevinden ons op een keerpunt waar de druk van wetgevers en consumentenbewustzijn zo groot is dat technologiebedrijven het probleem niet meer kunnen negeren.”
De“We bevinden ons op een keerpunt waar de druk van wetgevers en het bewustzijn onder consumenten zo groot is dat techbedrijven het probleem niet meer kunnen negeren.” – Henry Ajder, Gen AI-expert.
De
“We are at an inflection point where the pressure from lawmakers and awareness among consumers is so great that tech companies can’t ignore the problem anymore.”Henry Ajder, expert op Gen AI.
“We bevinden ons op een keerpunt waar de druk van wetgevers en consumentenbewustzijn zo groot is dat technologiebedrijven het probleem niet meer kunnen negeren.”“We bevinden ons op een keerpunt waar de druk van wetgevers en consumentenbewustzijn zo groot is dat technologiebedrijven het probleem niet meer kunnen negeren.”
Google zegt dat hetstappen nemen om expliciete deepfakes te behoudenWatermerken en beschermende schilden hebben tot nu toe niet echt gewerkt. Maar de regelgeving wordt opgeheven. Bijvoorbeeld, het Verenigd Koninkrijk verboden zowel de creatie en distributie van non-consensual expliciete deepfakes. De EU heeft zijn AI Act en de VS heeft geduwd voor de Defiance Act.
Startups zoalsSynthesia belooft hyperrealistische deepfakes met volledige lichamendie beweging en handen die golven.Deepfakes worden gewoon heel veel realistischer.Hoe zullen we de slechte kant van dit stoppen?
AI is Aiding in Financial Fraud
AI helpt bij financiële fraudeAI-genereerde nepnieuws verspreid op sociale media isVerhoging van de risico’s van bankrennen, according to a new British study that says lenders must improve monitoring to detect when disinformation risks impact customer behavior. Other kinds of fraud are also rampant.
Onderzoek van JuniperVoorspellingenDe waarde van eCommerce-fraude zal stijgen van US$44,3 miljard in 2024 naar US$107 miljard in 2029, een groei van 141%.
Dit alles dankzij AI, die de verfijning van aanvallen in het eCommerce-ecosysteem stimuleert, waarbij het gebruik van deepfakes die met behulp van AI zijn gemaakt om verificatiesystemen te verslaan een belangrijke bedreiging is.Deze bedreiging, gecombineerd met toenemende niveaus van 'vriendelijke fraude', waarbij fraude wordt gepleegd door de klant zelf, zoals terugbetalingsfraude, bedreigt de winstgevendheid van handelaren.
AI helpt fraudeurs om vooruit te blijven op beveiligingsmaatregelen en geavanceerde aanvallen op een grotere schaal te plegen. AI maakt ook aanvallen van hogere kwaliteit mogelijk met een ongekende frequentie door geloofwaardige berichten en synthetische identiteiten te creëren.
Should AI be as open as the internet?
Moet AI net zo open zijn als internet?Hoofd AI van Meta, Yann LeCun, heeftDringendLeCun legde uit dat platforms zoals ChatGPT en Llama een repository van alle menselijke kennis en cultuur zullen vormen, waardoor een gedeelde infrastructuur wordt gecreëerd zoals het internet vandaag de dag.
HijzeiDat we niet kunnen hebben dat een klein aantal AI-assistenten (OpenAI's ChatGPT en dergelijke) het digitale dieet van elke burger over de hele wereld beheersen. "Dit zal uiterst gevaarlijk zijn voor de diversiteit van denken, voor de democratie, voor bijna alles," voegde hij eraan toe.
Aangezien AI steeds menselijker wordt, moeten we niet vergeten dat het nog steeds niet menselijk is.Bloomberg technologieënAI is software en het toont geen menselijke intelligentie.
Bloomberg technologieën
"Het heeft intelligentie als je het die bijnaam wilt geven, maar het is niet dezelfde intelligentie als ik heb," zegt hij.
Navanwita Bora Sachdev, redacteur van The Tech Panda
DeNavanwita Bora Sachdev, Editor, The Tech Panda
