Gambar nanomaterial yang dihasilkan oleh AI menipu para ahli, menurut studi
Gambar berwarna hitam-putih dari kumpulan seperti pom-pom, bidang setengah tembus cahaya yang penuh dengan bintang kecil berwarna abu-abu gelap di atas latar belakang pucat, serta berbagai pola abstrak lainnya merupakan hal yang biasa dilihat dalam artikel ilmiah yang menggambarkan bentuk dan sifat material baru yang dirancang.
Berlangganan ke kaminewsletteruntuk pembaruan berita teknologi terbaru.
Jadi, ketika gambar penelitian menunjukkan partikel yang menyerupai beras pop atau “Tic Tacs” yang sempurna dan halus, mungkin tidak memicu radar kecurigaan AI kita, tetapi para peneliti disebuah studi terbaruPeringatan selanjutnya.
Gambar mikroskopis sangat penting dalam ilmu material nano, karena mereka mengungkapkan intrik tersembunyi dan bentuk menarik yang diambil partikel kecil, yang tampak seperti tumpukan debu bagi mata telanjang.
Para ilmuwan khawatir bahwa kecerdasan buatan generatif sedang mengurangi signifikansi gambar-gambar ini dengan mencemari kolam tersebut dengan foto yang dihasilkan oleh AI yang tidak dapat dibedakan dari yang asli. Bahkan para peneliti berpengalaman pun semakin kesulitan membedakan antara gambar mikroskopi nyata dari nanomaterial dan yang dibuat oleh AI.
Dalam studi, yang diterbitkan dalamNature Nanoteknologi, para ahli hanya mampu mengidentifikasi gambar asli versus palsu sebanyak 40-51% dari empat pasangan gambar dari enam pasangan, menunjukkan tidak ada perbedaan signifikan dalam kemampuan mereka untuk mendeteksinya.
Para peneliti dari lima negara berbeda bergabung untuk merancang sebuah studi yang mengeksplorasi ancaman gambar mikroskopi palsu yang dihasilkan oleh AI dalam ilmu material nano, menunjukkan bagaimana pengaburan antara apa yang nyata dan apa yang diproduksi mengancam dasar integritas ilmiah.
Menggunakan data mikroskopi asli, mereka melatih platform generasi gambar getimg.ai dalam waktu kurang dari satu jam dan menghasilkan gambar palsu yang sangat mirip dengan hasil eksperimen. Ini termasuk enam teknik mikroskopi berbeda, seperti mikroskopi elektron transmisi (TEM), mikroskopi gaya atom (AFM), dan mikroskopi elektron transmisi scanning (STEM), di antaranya.
Untuk menguji sejauh mana gambar-gambar ini meyakinkan, tim melakukan survei anonim terhadap lebih dari 250 ilmuwan. Setiap peserta diberikan baik versi asli maupun versi gambar yang dihasilkan oleh AI dan diminta untuk menentukan apakah itu nyata, palsu, atau mereka tidak yakin. Ketika datang ke membedakan antara nyata dan palsu, keahlian mereka hanya akurat setengahnya.
Para peneliti mencatat bahwa pola ini menambah lapisan kompleksitas baru ke dalam ekosistem penerbitan yang sudah rumit, merusak keandalan tinjauan sejawat dan kepercayaan publik terhadap nanosains.
Untuk mengatasi masalah ini, mereka mendorong penggunaan struktur penyimpanan data yang disederhanakan yang disebut pendekatan Minimal Arrangement of Instrument Files (MAIF), di mana setiap naskah akan memiliki satu folder utama dengan subfolder untuk setiap gambar, dan setiap subfolder akan berisi file alat asli untuk gambar tersebut.
Tim mengakui bahwa kemampuan AI ini mengejutkan, karena metode tradisional dalam mendeteksi palsu mulai gagal sementara AI terus berkembang. Namun, memandangnya hanya sebagai ancaman terhadap integritas ilmiah seharusnya bukan akhir dari jalan.
Alih-alih melihat AI hanya sebagai ancaman, para penulis memanggil dialog yang transparan dan berpikir ke depan di seluruh komunitas nanomaterial.
Mengakui risiko dan potensi tersebut dapat memberdayakan komunitas ilmiah untuk menetapkan standar dan perlindungan yang jelas.
Ditulis untuk Anda oleh penulis kamiSanjukta Mondal,diedit olehSadie Harley, dan diverifikasi fakta serta ditinjau olehRobert Egan—artikel ini adalah hasil dari pekerjaan manusia yang teliti. Kami bergantung pada pembaca seperti Anda untuk menjaga hidup jurnalisme sains independen. Jika pelaporan ini penting bagi Anda, silakan pertimbangkan sebuahdonasi(terutama bulanan).
Informasi lebih lanjut:Nadiia Davydiuk dkk, Bahaya yang Meningkat dari Gambar yang Dihasilkan oleh Kecerdasan Buatan dalam Ilmu Material Nano dan Apa yang Bisa Kami Lakukan Tentangnya,Nature Nanoteknologi(2025).DOI: 10.1038/s41565-025-02009-9
© 2025 Jaringan Science X
Cerita ini pertama kali diterbitkan diBisakimia.
- Midland School Board Contracts Three Rivers/Clark/GMB for Facility Study - November 21, 2025
- AI researcher develops tool to identify suicidal thoughts in social media posts - November 21, 2025
- Gambar nanomaterial yang dihasilkan oleh AI menipu para ahli, menurut studi - November 21, 2025
Leave a Reply