Artificial Intelligence atau singkatnya AI merupakan sebuah inovasi yang telah merubah bagaimana kita memandang pekerjaan dan realita secara masif. Selain memiliki kapabilitas untuk membuat argumen dan membantu menganalisis data, AI juga memiliki kemampuan untuk melakukan editing, dari dasar hingga advanced. 

Hal ini dapat dilihat dengan pertumbuhan trend sosial media yang beberapa diantaranya kian memanfaatkan AI untuk membuat konten visual berupa gambar dan video. Dengan proyeksi kenaikan pola konsumsi konten di sosial media, maka demand terhadap editing dan terutama prompt engineering sangat dibutuhkan. 

Namun ditengah sentimen positif terhadap pemanfaatan AI editing, keberadaan AI yang awalnya ditargetkan untuk meningkatkan produktivitas dan inovasi saat ini mulai disalahgunakan oleh beberapa oknum. Salah satu contoh terbaru yang belum lama terjadi terlihat pada penyalahgunaan AI Grok di platform sosial media X. 

Barawal dari prompt engineering yang dilakukan oknum terhadap foto unggahan pengguna X, Chatbot Grok menuai polemik publik akibat penyalahgunaan fungsinya untuk memproduksi manipulasi foto tersebut menjadi konten eksplisit. Selebihnya, dengan terintegrasikannya Grok dengan platform sosial media X, maka penyebaran konten pun sulit dihentikan. 

Kawan UNDIRA pastinya mengenal istilah Deepfake. Deepfake sendiri merupakan manipulasi media digital (video, foto, dan bahkan audio) menggunakan AI dan deep learning guna menciptakan konten sesuai kebutuhan pribadi maupun kelompok tertentu. 

Deepfake sendiri yang pada awalnya digunakan sebagai hiburan, kini mulai dimanfaatkan untuk menghasilkan karya eksplisit guna disebarluaskan. Menurut salah satu jurnal dari Departement of Computing, Wrexham University, United Kingdom pada tahun 2025, proses ini secara progresif akan menghasilkan fenomena yang disebut Digital Relationships. 

Personalisasi dinamik yang dapat dihasilkan melalui kebebasan penggunaan AI (terutama dalam media digital editing), menuai polemik moral khususnya terkait perijinan sekaligus kaidah rekayasa data pribadi. Menurut Citron, 2019 dan Ajder et al., 2019 hal tersebut juga berpotensi menjadi bentuk perilaku abusif baru dikemudian hari. 

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menegaskan bahwa manipulasi media oleh Grok melanggar hak privasi dan citra diri (right to one’s image). Ketika AI berubah menjadi ruang fantasi tanpa batas, kita harus berhenti menormalisasi penyimpangan ini dan segera mengevaluasi kembali etika penggunaannya. 

Sebagai mahasiswa Universitas yang Visioner, Integritas dan Profesional, maka melalui kasus Grok kita dapat mempelajari bahwa; AI dapat memperkuat objektifikasi yang subjektif terhadap selera dan berpotensi disalahgunakan. Melihat kembali peribahasa, “Senjata makan tuan” - kekerasan digital dapat dimulai dari lengahnya ketelitian pengelolaan data pribadi melalui kanal sosial media kita sendiri, yang harusnya menjadi safe space dari dunia nyata. 

Platform digital merupakan ruang terbuka yang berisikan berbagai individu dengan karakteristik berbeda, serta penting bagi kita untuk menjaga jejak digital kita dengan baik.