Nagsampa ng kaso ang Google noong Biyernes laban sa umano'y Chinese cybercrime network na Outsider Enterprise dahil sa paggamit ng Gemini AI ng kumpanya upang i-automate ang mga mapanlinlang na text messaging campaign na nagta-target ng daan-daang libong biktima sa U.S. gamit ang mga phishing site na dinisenyo upang nakawin ang mga financial credentials.

Umano'y ginamit ng mga akusado ang Gemini AI upang bumuo ng code at templates para sa mga pekeng website na ginaya ang mga lehitimong portal ng telecom, ayon sa mga dokumento ng korte. Sinabi ng FBI na inilunsad ng operasyon ang mahigit 8,000 phishing website sa dose-dosenang bansa.

Nakareceive ang Google ng humigit-kumulang 55,000 report ng mga kahina-hinalang mensahe sa Google Messages sa loob ng dalawang linggong panahon na nagtapos noong Hunyo 1, marami sa mga ito ay umano'y konektado sa Outsider Enterprise. Ipinapahiwatig ng parehong mga dokumento ng korte na ninakaw ng network ang tinatayang 3.87 milyong numero ng credit card, na nag-ambag sa humigit-kumulang $1.9 bilyong pagkalugi simula Hulyo 2023.

Ang mga phishing site ay umano'y nagta-target ng iba't ibang financial account, kabilang ang mga cryptocurrency wallet at credentials ng exchange, dahil ang mga scammer ay lalong nagpo-pokus sa mga may hawak ng digital asset na maaaring mas kaunti ang mapagkukunan ng tulong kaysa sa tradisyonal na mga customer ng bangko.

Lumitaw ang kaso habang dumarami ang mga scam sa pananalapi na pinapagana ng AI sa buong Estados Unidos. Nakareceive ang FBI ng kabuuang 1,008,597 reklamo sa krimen sa internet noong 2025, kung saan ang mga reklamong nauugnay sa crypto ay umabot sa 181,565 na ulat at $11 bilyon sa pagkalugi—ang pinakamataas sa anumang kategorya.

Sa kauna-unahang pagkakataon sa halos 25 taong kasaysayan nito, ang Internet Crime Complaint Center ng FBI ay naglaan ng seksyon para sa mga scam ng artificial intelligence, na bumuo ng 22,364 na reklamo at nagdulot ng halos $893 milyong gastos sa mga Amerikano. Ang Operation Level Up ng bureau, na inilunsad noong 2024, ay nagbigay-abiso sa mahigit 8,000 biktima ng pandaraya sa cryptocurrency at napigilan ang higit sa $500 milyong posibleng pagkalugi.

Ipinakita ng pananaliksik na kahit ang nangungunang mga modelo ng AI ay maaaring mag-udyok ng mapaminsalang pag-uugali, na nagdudulot ng pag-aalala habang ang mga kumpanya tulad ng Apple ay nagsasama ng mga kakayahan ng AI sa mga produkto ng consumer. Ang kaso ng Google ay kumakatawan sa isang mahalagang sandali sa pagtatangkang panagutin ang mga masasamang aktor sa pag-gamit ng mga AI tool bilang sandata laban sa mga sistemang pampinansyal.