“Veri Güvenliği Tercih Değil, Zorunluluk”
Küresel ölçekte dijital altyapı tasarımları gerçekleştiren Kaan Demircan, yapay zekanın sunduğu imkanların yanında ciddi güvenlik ve etik riskler barındırdığını söyledi. Kuzey Kafkas Karaçay-Malkar Derneği’nde düzenlenen sunumda konuşan Demircan, teknolojinin hızla ilerlediği günümüzde veri güvenliğinin bir tercih değil zorunluluk haline geldiğini vurguladı.
“Bilgilerinizi Kontrolsüz Şekilde Paylaşmayın”
Yapay zekanın etik ve sorumlu kullanımının önemine dikkat çeken Demircan, özellikle kurumsal verilerin bu platformlarla paylaşılmasının geri dönülemez güvenlik açıklarına yol açabileceğini ifade etti. Bir firmada çalışırken şirketle ilgili bilgilerin yapay zeka sistemlerine girilmemesi gerektiğini belirten Demircan, “Yapay zekayı etik bir şekilde kullanmak ve kullandırmak çok önemli. Bilgilerinizi paylaşmamalısınız” dedi.
Kurum İçi Yapay Zeka Modelleri Öne Çıkıyor
Demircan, kendi çalışma ortamından örnek vererek kurum içi özel yapay zeka modellerinin avantajlarına değindi. Kendi şirketlerinde kapalı devre çalışan bir yapay zeka sistemi kullandıklarını belirten Demircan, bu sayede verilerin dışarıya aktarılmadığını, ancak şirket içindeki tüm bilgilere güvenli biçimde erişilebildiğini söyledi. Bu sistemlerin hem verimliliği artırdığını hem de güvenlik risklerini minimize ettiğini kaydetti.
“Yapay Zeka Halüsinasyon Görebilir”
Yapay zekanın kusursuz bir sistem olmadığını vurgulayan Demircan, “halüsinasyon” olarak adlandırılan hatalı bilgi üretme riskine dikkat çekti. Yapay zekanın bazen olmayan bir bilgiyi doğruymuş gibi sunabildiğini ifade eden Demircan, bunun yanlış veri setleri veya model geliştirme süreçlerinden kaynaklanabileceğini söyledi. Özellikle yazılımcıların, yapay zekanın ürettiği kodları mutlaka kontrol etmesi gerektiğini vurguladı.
Algoritmik Önyargı Uyarısı
Demircan ayrıca algoritmik önyargı riskine de değinerek, bazı araştırmalarda yapay zekanın insan kaynakları başvurularında belirli gruplara karşı önyargılı davranabildiğinin tespit edildiğini belirtti. Yapay zekanın yanlış ya da yanlı kaynaklardan beslenebileceğini ifade eden Demircan, üretilen bilgilerin mutlaka sorgulanması gerektiğini söyledi.
“Başarının Temeli Merak ve Sürekli Öğrenme”
Sunumunda gençlere de seslenen Demircan, teknoloji alanında başarılı olmanın temelinin sürekli öğrenme ve merak duygusu olduğunu vurguladı. Yeni araçların ve projelerin takip edilmesi gerektiğini belirterek, “Bilgiye aç olmak başarının anahtarıdır” dedi.