CIO Bertujuan untuk Memperluas Tim dengan Membuat Klon Digital dari Staf

CIO UC San Diego ingin menggunakan agen AI dan digital twin untuk mengotomatisasi pekerjaan IT, meningkatkan keamanan siber, dan meringankan beban staf.

Selama konferensi Cisco Live pekan ini, Dr. Vince Kellen mengusulkan untuk memanfaatkan agen AI dan kembaran digital dari staf IT berpengalaman untuk menangani tugas-tugas yang berulang dan keadaan darurat di malam hari, seperti yang pertama kali dilaporkan oleh The Register.

Berbicara di hadapan audiens yang memadati ruangan, Kellen berkata, “Semua jalan menuju ke tingkat otomatisasi yang tinggi kapanpun kita bisa,” lapor The Register.

Universitas beroperasi seperti kota kecil karena setiap harinya menerima lebih dari 100.000 orang, sementara harus berurusan dengan penurunan pendaftaran mahasiswa dan sumber daya keuangan yang terbatas

Kellen meramalkan bahwa sistem AI akan memperoleh pengetahuan dari pekerja teknologi untuk mengelola peningkatan tuntutan di masa depan. “Kita memiliki semua pengetahuan ini dalam diri manusia seputar kebijakan jaringan yang harus kita keluarkan dari pikiran mereka dalam semacam cara irigasi tetes,” katanya, seperti yang dilaporkan oleh The Register.

Kellen percaya bahwa transfer pengetahuan ini secara perlahan ke AI akan memungkinkan tim IT untuk mengurangi beban kerja mereka dan meningkatkan kinerja jaringan.

Institut Oseanografi di UCSD juga menghadapi ancaman keamanan nasional. “Ketika Anda memasukkan sonar ke dalam air, Anda menemukan lebih dari sekadar ikan, dan negara-negara lain ingin tahu tentang hal itu,” dia memperingatkan, seperti yang dilaporkan oleh The Register.

Serangan siber yang didukung oleh negara asing menjadi semakin canggih, membutuhkan staf untuk mengotomatisasi pertahanan dasar sehingga mereka dapat fokus pada ancaman yang lebih berbahaya.

Kellen percaya bahwa AI “memiliki potensi untuk memungkinkan deteksi proaktif terhadap masalah” dan melihat klon digital sebagai cara untuk mempertahankan keahlian staf sambil meringankan beban mereka. “Lalu orang itu tidak perlu tersiksa ketika ada insiden lain. Mereka tidak akan dipanggil lagi,” tambahnya, seperti yang dilaporkan oleh The Register.

Ide ini menimbulkan sebuah pertanyaan yang provokatif: Apakah Anda akan membiarkan majikan Anda menduplikasi keahlian Anda secara digital jika itu berarti panggilan darurat yang lebih sedikit? Seiring berkembangnya otomatisasi, batas antara pekerjaan manusia dan mesin mungkin akan memudar, tetapi bagi tim IT, hal ini bisa berarti bantuan yang sangat dibutuhkan.

Namun, peningkatan otomatisasi juga menimbulkan kekhawatiran terkait keamanan siber. Sistem yang dioperasikan oleh pekerja IT otomatis dan agen AI menjadi target yang menarik bagi peretas, karena serangan pada sistem ini bisa berakibat pada gangguan yang luas.

Memang, digital twin yang sudah terkompromi bisa digunakan untuk melewati protokol keamanan dan menyebarkan malware dengan kecepatan yang lebih cepat dibandingkan operator manusia.

Sebuah laporan dari Forum Ekonomi Dunia berpendapat bahwa penyerang dapat mencemari data pelatihan AI atau menemukan kerentanan dalam model AI, yang mengakibatkan kegagalan sistem atau pembuatan output yang salah.

Serangan “pencemaran data” dan eksploitasi model ini seringkali mudah dilakukan tetapi sulit untuk dipertahankan, karena langkah-langkah keamanan saat ini belum cukup, seperti yang dicatat oleh ITPro.

Meskipun ada risiko ini, 96% profesional IT mengakui agen AI sebagai ancaman keamanan, namun sebagian besar organisasi tergesa-gesa untuk menerapkannya tanpa kontrol atau kebijakan yang tepat, seperti yang dilaporkan oleh ZDNet.