Jika sebuah sistem AI Rumah Sakit memberikan rekomendasi obat yang salah secara terus-menerus kepada pasien, apakah AI tersebut "berniat jahat"? Jelaskan akar masalahnya, Tidak, AI tidak memiliki niat. Akar masalahnya ada pada siklus rekayasa data, yakni data rekam medis (input) yang diberikan ke AI tersebut tidak valid, kotor, atau mengalami bias [Data Poisoning], Anda adalah seorang analis keamanan. Mengapa dalam melatih model Machine Learning yang menggunakan data konfidensial (seperti log server atau data klinis), disarankan untuk mengintegrasikan teknologi blockchain?, Untuk memastikan integritas dan sifat mutlak (imutabilitas) data latih. Enkripsi blockchain mengunci data agar peretas tidak bisa memanipulasi log historis secara diam-diam untuk mengelabui prediksi algoritma AI.), Formula prompt yang baik adalah: [Peran] + [Tugas] + [Konteks] + [Batasan Format]., Elemen [Peran/Karakter] tidak ada. Prompt tersebut langsung meminta tugas tanpa menetapkan persona spesifik (misalnya: "Bertindaklah sebagai Dosen Ahli Forensik Digital...").), Seorang mahasiswa ketahuan menyalin mentah-mentah hasil output dari sebuah Large Language Model (LLM) untuk makalah ujiannya setelah sistem kampus melakukan pemindaian menggunakan GPTzero. Berdasarkan prinsip Etika AI yang telah dibahas, di manakah letak pelanggaran operasionalnya, dan bagaimana seharusnya AI generatif diposisikan dalam pengerjaan tugas?, Pelanggarannya terletak pada pilar Transparansi dan Integritas (mengklaim hasil komputasi mesin sebagai karya manual). Secara prosedur yang benar, AI hanya boleh diposisikan sebagai "Katalisator" (mitra brainstorming atau perintis ide awal), bukan sebagai pembuat hasil akhir [end-product], Sebuah sistem AI Keamanan Jaringan (Security Analytics) secara otomatis memblokir akses ribuan mahasiswa ke portal akademik karena mendeteksinya sebagai serangan DDoS, padahal itu hanyalah lonjakan traffic normal saat masa pengisian KRS. Jika arsitektur AI tersebut menggunakan Deep Learning yang sangat rumit dan tertutup (Black-box), mengapa hal ini menjadi mimpi buruk bagi seorang System Engineer saat melakukan investigasi perbaikan (RCA)?, Karena model Deep Learning memproses data melalui ratusan lapisan tersembunyi (hidden layers), sehingga proses pengambilan keputusannya tidak transparan. Jika terjadi salah deteksi (false positive) seperti ini, Engineer akan sangat kesulitan melacak akar masalah (RCA) mengapa algoritma memicu pemblokiran. Inilah perlunya AI transparan [White-box/Explainable AI] dalam sistem keamanan.)

CHALLANGE

by
Print
Embed

Leaderboard

We are currently working on improving the Leaderboard functionality. Please help us by offering your feedback.

Give Feedback

Visual style

Options

We are currently working on improving the Activity Settings. Please help us by offering your feedback.

Give Feedback

Switch template

Continue editing: ?