Generative AI is 'n supercharende swendelary (hier is hoe en waarna om op te let)

Opsomming

Scammers raak meer kreatief met valse produkte en AI-gegenereerde voice-over om niksvermoedende kopers te haak.
Dating App -scammers gebruik AI -chatbots om slagoffers te teiken; Valse resensies word makliker met groot taalmodelle.
Namate AI -tegnologie verbeter, sal dit moeiliker wees om die regte inhoud van Fakes te onderskei; Ondersoek altyd voordat u aanlyn koop.

Die term “bedrogspul” is van toepassing op alles van 'n gesofistikeerde geteikende aanval tot 'n dodgy voor-rol-advertensie op u gunsteling video-streaming-webwerf. Die slegte nuus is dat die ingenieurswese hierdie swendelary makliker word.

Die demokratisering van vals beelde

Daar is 'n fyn, maar tog duidelike lyn tussen bedrogspul en spam, maar die twee lande oorvleuel gereeld. Dit is veral waar as dit by aanlyn -advertensies kom, of u nou op die web blaai of deur sosiale media blaai. Adverteerders keur nie elke advertensie wat hulle wys goed nie, maar vertrou eerder op gebruikersverslae om die slegte akteurs uit te wis.

As u baie tyd aanlyn spandeer, blaai u waarskynlik elke dag verby talle dodgy advertensies. Miskien is die interessantste hiervan die produkte wat nie bestaan nie en in plaas daarvan vervaardig word, óf met die hand gemaak of generatiewe AI soos Dall-E of Midjourney gebruik.

Om kopers met vals produkte te haak, is niks nuuts nie, maar een keer het u die visie, 'n paar Photoshop-vaardighede en 'n stuk vrye tyd nodig. Met die koms van teks-tot-beeld-kragopwekkers, kan u so min of soveel tyd spandeer as wat u wil vra om 'n beeldgenerator te voer totdat u die resultate kry waarna u soek. Die lug is die limiet as dit kom by die soort produkte waarmee u vorendag kan kom.

In April 2024 het Snopes berig dat 'n groot aantal 'Cat's Eye Dazzle' swendelary op sosiale media soos 'n storm getref het. Die bedrogspul behels die opwekking van vals blomme wat soos katte lyk, om gebruikers op sosiale netwerke soos Facebook in te trek. Ebay-lyste het vir die sade opgekom, terwyl ander “verkopers” self-gasheer-winkelportale gebruik het om uit te geld.

Vir sommige is die feit dat hierdie blomme AI-gegenereerde vervalsings is onmiddellik voor die hand liggend. Ander soortgelyke swendelary is nie so vergesog nie. YouTube-kanaal Atomic Garnale het 'n video geskep wat die verskynsel dokumenteer en meer redelik klinkende lyste vir 'ware' blou rose en sonneblomme ondersoek, en nie een van die een nie.

Blomme wat soos katte en plante met onmoontlike kleur lyk, is slegs twee voorbeelde van swendelary wat blykbaar honderde, indien nie duisende mense, gevang het nie. Hierdie beelde het 'n paar sekondes geneem om te genereer, en nog 'n paar om op Facebook te plaas.

AI -stemme gee geloofwaardigheid aan video

U is waarskynlik deeglik bewus van die opkoms van teks-tot-stem-funksies, met sosiale platforms soos Tiktok, wat dit maklik maak om 'n voice-over te genereer wat natuurlik klink, maar ook maklik is om te verstaan. Die 'Tiktok Lady' -stem handel nou net soveel oor die handelsmerk van Tiktok as 'n nuttige hulpmiddel vir inhoudskeppers.

Maar AI -stemme is soveel meer as dit. Chatgpt kan voice -overs genereer as u vir die premiumvlak betaal, en dienste soos elflabs het gratis vlakke beskikbaar. Ek het gesien hoe kleiner YouTube-kanale bestuur word deur skeppers wat nie gemaklik is om op kamera te praat na AI-gegenereerde stemme nie. Dit kan skarrel, maar is ten minste gegrond in goeie bedoelings.

Die belangrikste haak is dat 'n voice -over geloofwaardigheid aan u video verleen. 'N Paar jaar gelede sou u tyd en moeite of befondsing moes plaas om 'n voice -over by u video te voeg. U benodig toerusting en oefening of 'n gehuurde stemakteur. Nou is dit so eenvoudig soos om 'n draaiboek te skryf waarmee jy gelukkig is en die stem kies wat jy wil gebruik.

Dit maak Scammy-advertensies vir 'n vinnige skema en dropshipped-produkte des te meer geloofwaardig. As die advertensie soos die regte saak klink, is u waarskynlik geneig om meer in die produk te vertrou. Die mense wat hierdie advertensies bestuur, weet dit, daarom was daar die afgelope jaar 'n ontploffing in hierdie praktyk.

Vir nou is dit nie te moeilik om AI-gegenereerde voice-over te identifiseer nie. Buigings en uitspraak kan 'n bietjie robot klink, en die natuurlike ritme van menslike spraak is nie heeltemal daar nie. Buckle Up, want hierdie instrumente gaan net verbeter en uiteindelik kan u nie die verskil sien nie.

Dating App -scammers gooi breër nette

Dit is een ding om met vals produkte en 'n robotiese voice -over te aas, maar wat van 'n bedrogspul wat u persoonlik teiken? Dit is presies wat op 'n groot skaal binne die aanlyn -afspraakruimte gebeur, danksy die krag van groot taalmodelle wat soos regte mense kan gesels (wel, naby genoeg).

Met behulp van AI-aangedrewe chatbots, kan swendelaars 'n breë net werp om hul slagoffers met sagteware te snaar wat effektief 'n gesprek lank genoeg kan hou om iemand se aandag te trek. Daar is 'n paar maniere waarop dit gebruik word, en almal voel indringend.

Sommige gebruik chatbots om groot mense van mense te stuur, en volg dan op in die hoop om iemand te ontmoet wat hulle regtig van hou. Vroeg in 2024 was daar ontelbare berigte van 'n man wat sy vrou ontmoet het met behulp van hierdie tegniek. Of u nou daarvan glo of nie, daar is 'n groot aantal mobiele apps en dienste wat belowe om potensiële vennote vir u op te stel (natuurlik vir 'n fooi).

Dinge neem beslis meer sinistere draai wanneer hierdie instrumente gebruik word om teikens vir finansiële swendelary te vind. Aanlyn -swendelaars het die basiese menslike begeerte na kameraadskap lankal uitgebuit om geld uit hul punte te onttrek. Nou kan hulle chatbots om vir hulle te werk, oorneem as hulle voel dat dit nodig is.

Koppel dit met 'n AI -beeldgenerator wat u toegang gee tot soveel oorspronklike mooi gesigte as wat u wil, en swendelaars hoef nie eens meer iemand anders se datingprofielfoto's te steel nie.

AI -video is op die horison

Oortuigende teks-tot-video is nie breed beskikbaar ten tyde van die skryf hiervan nie, maar met gereedskap soos Openai Sora op die horison is dit 'n krag om mee rekening te hou. Met slegs 'n opdrag, kan OpenAI se instrument realisties-voorkoms-bewegende foto's genereer (alhoewel u mooi kyk, kan u die gebreke raaksien).

As niks meer nie, sal AI-gegenereerde video slegs die probleme wat deur ander AI-gegenereerde inhoud gestel word, vererger. Deur die gebruik van steeds verbeterde kunsmatige intelligensie, is dit nie moeilik om 'n toekoms voor te stel waar u vals produkbeelde kan genereer nie, video's van die produk wat op relevante plekke gebruik word deur 'regte' mense, en 'n voice-over vir die video wat u kan gebruik om dit te adverteer.

As u veral ondernemend voel, kan u 'n groot taalmodel gebruik om die status van u produk te verhoog ...

AI kan selfs vals resensies

Valse resensies is niks nuuts nie. Ons het hulle almal gesien en baie van ons het vir hulle geval (of ons dit weet of nie). Maar tot slegs 'n paar jaar gelede het vals resensies moeite gedoen. Met die koms van groot taalmodelle, kan vals resensies hulself letterlik op groot skaal skryf.

Die misbruik van groot taalmodelle om resensies te genereer en produkte of besighede te bevorder, is een ding, maar die tegnologie werk albei maniere. Wat van die gebruik van hierdie tegnologie om resensies te maak wat 'n mededingende produk onregverdig kritiseer? Dit was nog nooit so maklik om 'n negatiewe rei te genereer nie, selfs al moet u dit self kopieer.

Paar AI-gegenereerde resensies met meer tradisionele borselbedrog en u het die geloofwaardigheid van 'n 'geverifieerde aankoop'-etiket om mee te begin. Uiteindelik is dit aan platformhouers om hierdie nuwe golf van misleidende aanlyninhoud te bekamp.

Dinge kan net beter word (erger)

Hierdie instrumente sal mettertyd beter word, wat dit moeiliker maak om die regte van die fantastiese te vertel. U moet verstandig wees vir die tegnologie as u voor swendelaars wil bly. As u verstaan wat moontlik is, is u beter gewapen om te verstaan wat werklik is en wat nie.

Facebook is veral vol met AI-gegenereerde beelde, so dit is 'n waardevolle vaardigheid om te verstaan hoe om AI-gegenereerde vervalsings op te spoor. U moet altyd versigtig wees vir aanlyn -advertensies, of u dit op u gunsteling webwerwe of 'n sosiale netwerk sien.

Doen altyd u navorsing voordat u iets koop, of dit nou 'n stuk tegnologie is of 'n pakkie sade wat u op Facebook gesien het. Ironies genoeg kan u ook u gunsteling chatbot vra wat die aansprake daarvan lewer.