PROGRES.ID- Eksploitasi keamanan di ranah digital kembali menunjukkan eskalasi. Evolusi teknik penipuan tidak lagi terbatas pada phishing melalui email, situs tiruan, atau pesan instan.
Pelaku siber kini memanfaatkan kemampuan kecerdasan buatan generatif untuk mengacaukan distribusi informasi pada platform publik, terutama sistem yang bergantung pada model bahasa besar (LLM).
Temuan ini dipublikasikan dalam laporan penelitian Aura Labs, unit riset di bawah Aurascape, pada 8 Desember 2025.
Studi tersebut mengidentifikasi skema baru yang disebut phone number poisoning, yakni metode penyerangan yang menempatkan nomor telepon palsu ke dalam konten daring sehingga terdeteksi sebagai kontak resmi oleh sistem berbasis AI.
Bagaimana Phone Number Poisoning Bekerja
Menurut laporan tersebut, pelaku tidak menyerang LLM secara langsung. Sebaliknya, mereka meracuni ekosistem konten yang dikumpulkan (scraped) dan diindeks oleh model AI. Karena LLM mengandalkan konten publik untuk menyusun jawaban, memanipulasi sumber informasi membuat model memberikan rekomendasi yang salah tanpa adanya pelanggaran teknis pada sistem inti LLM.
Teknik ini tercatat muncul di fitur AI Overview milik Google serta Comet Browser besutan Perplexity, di mana kedua platform itu menggunakan ringkasan otomatis untuk menjawab pertanyaan pengguna.
Dalam sejumlah kasus, sistem-sistem tersebut justru menyarankan nomor layanan pelanggan palsu yang diposisikan seolah-olah berasal dari maskapai atau institusi kredibel.
Dari SEO ke GEO dan AEO: Lanskap Manipulasi Baru
Sebelum era AI, manipulasi informasi publik umumnya dilakukan melalui Search Engine Optimization (SEO) untuk mendongkrak posisi halaman pada mesin pencari tradisional. Namun, pergeseran ke teknologi AI melahirkan dua pendekatan baru:
- Generative Engine Optimization (GEO) – Optimasi agar konten terserap oleh model generatif yang menghasilkan ringkasan atau rekomendasi.
- Answer Engine Optimization (AEO) – Optimasi untuk memastikan situs menjadi rujukan jawaban dalam sistem berbasis AI yang memproduksi respons instan.
Penipu digital kini memanfaatkan kedua mekanisme ini untuk menempatkan konten palsu tepat di jalur pengambilan keputusan sistem AI.
Rantai Manipulasi: Dari Situs Diretas hingga Kolom Komentar
Aurascape melaporkan pola operasi yang konsisten di berbagai insiden yang mereka telusuri:
- Konten spam disuntikkan ke situs web berotoritas tinggi yang telah diretas, termasuk portal lembaga pemerintah, instansi pendidikan, dan domain WordPress dengan reputasi baik.
- Platform terbuka yang mengizinkan unggahan pengguna turut dimanfaatkan, seperti YouTube, Yelp, dan berbagai forum publik. Pelaku menempatkan komentar, deskripsi, atau ulasan yang telah dioptimasi dengan teknik GEO/AEO.
- Informasi palsu dipaketkan secara sistematis, lengkap dengan nomor layanan pelanggan, jawaban FAQ yang direkayasa, serta deskripsi pretensius yang menyaru sebagai referensi resmi.
Struktur konten direkayasa sedemikian rupa sehingga mudah dipindai, dipahami, dan disintesis oleh LLM. Ketika pengguna menanyakan kontak resmi suatu layanan, sistem AI menggabungkan sumber-sumber tersebut dan menyajikannya sebagai “jawaban terpercaya”.
Dampak: Korban Menghubungi Pusat Layanan Palsu
Riset ini menemukan bahwa manipulasi tersebut dapat mengarahkan pengguna ke call center fiktif yang dioperasikan oleh penipu. Target utama hingga kini adalah pelancong yang mencari nomor reservasi maskapai atau pengguna yang memerlukan layanan pelanggan instan.
Para peneliti menegaskan bahwa konten berbahaya yang ditanamkan pada situs kampus, portal pemerintah, blog populer, dan platform ulasan efektif mengelabui sistem AI sehingga mengarahkan pengguna ke nomor yang dioperasikan oleh penipu yang berupaya mengambil data pribadi maupun dana.
Apa yang Harus Dilakukan Pengguna
Penemuan ini menunjukkan bahwa kepercayaan terhadap jawaban instan dari AI perlu disertai kehati-hatian ekstra. Pengguna disarankan untuk:
- Melakukan verifikasi manual melalui situs resmi suatu institusi sebelum menghubungi nomor layanan.
- Tidak mengandalkan satu sumber, terutama ringkasan otomatis dari sistem AI.
- Waspada terhadap nomor telepon yang tidak konsisten dengan informasi resmi perusahaan atau pemerintah.
Seiring meningkatnya integrasi AI dalam layanan publik dan pencarian informasi, kemampuan untuk membedakan sumber sah dan sumber manipulatif akan menjadi aspek penting dalam keamanan digital pribadi.
