Komisi Komunikasi Federal (FCC) telah mengusulkan denda sebesar $6 juta untuk penipu yang menggunakan teknologi pengkloning suara untuk menyamar sebagai Presiden Biden dalam serangkaian panggilan penelepon otomatis ilegal selama pemilihan pendahuluan di New Hampshire. Ini lebih banyak tentang penelepon otomatis daripada kecerdasan buatan, tetapi lembaga tersebut jelas memposisikan ini sebagai peringatan bagi penipu berbasis teknologi tinggi lainnya.

Seperti yang mungkin Anda ingat, pada bulan Januari, banyak pemilih di New Hampshire menerima panggilan yang mengaku sebagai pesan dari presiden yang memberi tahu mereka untuk tidak memilih dalam pemilihan pendahuluan yang akan datang. Ini, tentu saja, palsu — klona suara Presiden Biden menggunakan teknologi yang telah menjadi tersedia luas selama dua tahun terakhir.

Meskipun membuat suara palsu telah mungkin dari dulu, platform kecerdasan buatan generatif telah membuatnya menjadi sesuatu yang sepele: puluhan layanan menawarkan suara yang dikloning dengan sedikit batasan atau pengawasan. Anda dapat dengan mudah membuat suara Biden Anda sendiri dengan satu atau dua menit pidatonya, yang tentu saja mudah ditemukan secara online.

Apa yang tidak dapat Anda lakukan, seperti yang telah dijelaskan oleh FCC dan beberapa lembaga penegak hukum, adalah menggunakan Biden palsu tersebut untuk menekan pemilih, melalui panggilan penelepon otomatis yang sudah ilegal.

“Kami akan bertindak dengan cepat dan tegas untuk memastikan bahwa pelaku buruk tidak dapat menggunakan jaringan telekomunikasi AS untuk memfasilitasi penyalahgunaan teknologi kecerdasan buatan generatif untuk mengganggu pemilihan, menipu konsumen, atau mengompromikan data sensitif,” kata kepala Biro Penegakan FCC, Loyaan Egal, dalam siaran pers.

"Konsultan politik" Steve Kramer adalah pelaku utama, meskipun dia merekrut bantuan dari Life Corporation yang jahat (sebelumnya didakwa karena panggilan penelepon otomatis ilegal) dan layanan panggilan dari penyedia telekomunikasi yang jahat Lingo, AKA Americatel, AKA BullsEyeComm, AKA Clear Choice Communications, AKA Excel Telecommunications, AKA Impact Telecom, AKA Matrix Business Technologies, AKA Startec Global Communications, AKA Trinsic Communications, AKA VarTec Telecom.

Kramer "sepertinya" melanggar beberapa peraturan — tetapi sampai saat ini tidak ada tindakan pidana terhadapnya atau rekan-rekannya. Ini adalah keterbatasan kekuasaan FCC: Mereka harus bekerja dengan penegak hukum lokal atau federal untuk memberi bobot pada penentuan tanggung jawab mereka sebagai badan ahli.

Denda $6 juta lebih seperti batas atau aspirasi; seperti halnya dengan FTC dan yang lainnya, jumlah yang sebenarnya dibayarkan sering kali jauh lebih sedikit dengan berbagai alasan, tetapi bahkan demikian, ini adalah jumlah yang signifikan. Langkah berikutnya adalah untuk Kramer merespons tuduhan, meskipun tindakan terpisah diambil terhadap Lingo, atau apa pun namanya sekarang setelah mereka tertangkap lagi, yang mungkin mengakibatkan denda atau kehilangan lisensi.

Suara yang dihasilkan oleh kecerdasan buatan secara resmi dinyatakan ilegal untuk digunakan dalam panggilan penelepon otomatis pada bulan Februari, setelah kasus di atas memunculkan pertanyaan apakah suara tersebut dianggap sebagai "buatan" — dan FCC memutuskan, dengan cukup bijaksana, bahwa ini dihitung.

Kami akan meluncurkan newsletter kecerdasan buatan! Daftar di sini untuk mulai menerimanya di kotak masuk Anda pada tanggal 5 Juni.