Yapay zekaya ne kadar güvenilir? Nasıl güvence altına alınır?

İSTANBUL (İGFA) –Günümüzde, yetersiz güvenlik önlemlerinin riskleri, verilerin işlevselliklerinin temelini oluşturduğu yapay zekâ ve makine öğrenimi (AI/ML) sistemlerinde giderek daha belirgin hale gelmektedir.

Yapay zekâ ve makine öğrenimi modelleri, denetimli ve denetimsiz öğrenme yoluyla sürekli olarak güncellenen temel eğitim veri kümeleri üzerine inşa edilir. Makine öğrenimi yapay zekânın gelişmesinde önemli rol oynar. Makine öğrenimi sayesinde gerçekleşen derin öğrenme, diğer etkenlerle birlikte yapay zekânın yeteneklerini ilerletmesini mümkün kılar. Veriler ne kadar çeşitli ve güvenilir olursa modelin çıktıları da o kadar doğru ve kullanışlı olacaktır. Bu nedenle, eğitim sırasında bu modellerin büyük miktarda veriye erişmesi gerekir. Öte yandan, doğrulanmamış veya iyi incelenmemiş veri kümeleri güvenilmez sonuçların ortaya çıkma olasılığını artırdığından veri yığınlarına güvenmek riskleri de beraberinde getirmektedir.

Üretken yapay zekânın, özellikle de büyük dil modellerinin (LLM’ler) ve bunların yapay zekâ asistanları şeklindeki uzantılarının, modelleri kötü niyetli amaçlarla kurcalayan saldırılara karşı özellikle savunmasız olduğu bilinmektedir.

En sinsi tehditlerden biri, düşmanların modelin davranışını değiştirmeye çalıştığı ve yanlış, önyargılı ve hatta zararlı çıktılar üretmesine neden olduğu veri (veya veri tabanı) zehirlenmesidir. Bu tür tahrifatların sonuçları uygulamalar arasında dalgalanarak güveni sarsabilir ve hem insanlar hem de kuruluşlar için sistemik riskler doğurabilir.

Yapay zekâ modelleri hem iş hem de tüketici sistemlerine derinlemesine gömüldükçe asistanlar veya verimlilik artırıcılar olarak hizmet verdikçe bu sistemleri hedef alan saldırılar önemli bir endişe kaynağı haline gelirken, genellikle hassas verilerle dolu olan kullanıcı komutlarını diğer taraflarla paylaşan tüketici modelleri için riskler daha da artmaktadır.

MAKİNE ÖĞRENİMİ VE YAPAY ZEKÂ GELİŞİMİ NASIL GÜVENCE ALTINA ALINIR?

ML/AI modelleri için önleyici stratejiler hem geliştiricilerin hem de kullanıcıların farkındalığını gerektirir. Bunun için bilişim uzmanları bu konuyla ilgili temel stratejileri ise şöyle sıraladı:

Sürekli kontroller ve denetimler: Kötü niyetli manipülasyon veya önyargılı verilerin onları tehlikeye atmasını önlemek için AI/ML modellerini besleyen veri kümelerinin bütünlüğünü sürekli olarak kontrol etmek ve doğrulamak önemlidir.

Güvenliğe odaklanın: Yapay zekâ geliştiricilerinin kendileri de saldırganların hedefinde olabilir, bu nedenle proaktif önleme, erken tespit ve sistemik güvenlik kontrolleri ile saldırı yüzeyini en aza indirmeye yönelik önleme öncelikli bir yaklaşım sağlayabilecek bir güvenlik kurulumuna sahip olmak, güvenli geliştirme için olmazsa olmazdır.

Çekişmeli eğitim: Daha önce de belirtildiği gibi, modeller genellikle öğrenmelerini yönlendirmek için profesyoneller tarafından denetlenir. Aynı yaklaşım, modellere kötü niyetli ve geçerli veri noktaları arasındaki farkı öğretmek için de kullanılabilir ve sonuçta zehirleme saldırılarının engellenmesine yardımcı olur.

Sıfır güven ve erişim yönetimi: Hem içeriden hem de dışarıdan gelen tehditlere karşı savunmak için bir modelin temel verilerine yetkisiz erişimi izleyebilen bir güvenlik çözümü kullanın. Bu şekilde şüpheli davranışlar daha kolay tespit edilebilir ve önlenebilir. Ek olarak, sıfır güven ile hiç kimseye varsayılan olarak güvenilmez ve erişim izni verilmeden önce birden fazla doğrulama yapılması gerekir.

SAĞLIK

‘Tükenmiş’misiniz? 10 soruda test edin!

Günlük yaşamın aşırı koşuşturmacasında; aşırı iş yükünden ‘hayır’ diyememeye ve sınır koymada güçlük çekmeye, ekonomik zorluklardan mükemmeliyetçi kişilik yapısına dek bir çok faktör kişinin kendini tükenmiş hissetmesine yol açabiliyor. […]

Etkinlikler

Sakarya’da film tutkunları OSM’de buluştu

Sakarya Büyükşehir Belediyesi, Şubat Kültür Takvimi kapsamında film tutkunlarını Ingmar Bergman’ın başyapıtlarından biri olan “Kış Işığı” filminin gösteriminde buluşturdu. Yazar ve yönetmen Celil Civan’ın gösterim sonrası düzenlediği söyleşide ise sinemanın derinliklerine inildi. […]

TEKNOLOJİ

Manisa, Dijital Dönüşümde yeni bir çağa adım atıyor

Manisa Büyükşehir Belediyesi, halkın belediye hizmetlerine daha kolay ve hızlı erişimini sağlayacak devrim niteliğinde teknolojik projeleri hayata geçiriyor. 11 Şubat Salı günü Manisa Kültür Merkezi Lale Salonu’nda gerçekleştirilecek Dijital Dönüşüm Toplantısı, önemli bir kilometre taşı olacak ve kentte günlük yaşamı daha konforlu hale getirecek. […]

SAĞLIK

Epilepsi her 100 kişiden birini etkiliyor… Farkındalık araştırmasından çarpıcı sonuçlar

Türk Epilepsi ile Savaş Derneği Başkanı Prof. Dr. Nerses Bebek, Dünya Epilepsi Günü’nde Epilepsi Farkındalık Araştırması’nın çarpıcı sonuçlarını kamuoyu ile paylaştı. Araştırmaya göre, Türkiye’de 15 milyon kişi yakınlarının epilepsi hastası biriyle evlenmesini istemiyor ve 34 milyon kişi epilepsi nöbeti geçiren birine nasıl müdahale edeceğini bilmiyor. […]

SAĞLIK

Uyuşma ve karıncalanma varsa dikkat!

Beyin ve Sinir Cerrahisi Uzmanı Prof. Dr. Selçuk Göçmen, sinir tümörlerinin varlığında ağrı veya rahatsızlık, uyuşma veya karıncalanma, güçsüzlük veya zayıflık, şişlik veya kitle son olarak da hareket kısıtlılığı hissi en sık karşılaşılan şikayetler arasında yer aldığını söyledi. […]

SAĞLIK

Göz kapağı hastalıklarına dikkat!

Göz kapaklarının ön yüzeyini oluşturan cilt dokusu, cildin altında yer alan kas ve bağ dokuları kendilerine özgü hastalıklar taşıyabilir. Bu hastalıklar doğumsal ya da sonradan kazanılan sorunlar olabilir.  Göz Hastalıkları Uzmanı Op. Dr. Şeyda Atabay konu hakkında bilgiler verdi. […]

Etkinlikler

Manisa’da çocuklara tiyatro şöleni

Manisa Büyükşehir Belediyesi Şehir Tiyatroları, yeni sezonda çocukları kahkaha ve macera dolu bir oyunla daha buluşturdu. “Bay Pati’nin Mutfağı”nın ardından sahnelenen ikinci çocuk oyunu “Soytarılar Okulu”, prömiyerini yaparak minik izleyicilere keyifli anlar yaşattı. […]

MANŞET

Suriye’ye Türkmen Çıkarması!

Türk Dünyası Yörük Türkmen Birliği adına Genel Başkan İrfan Tatlıoğlu, Suriye’de gerçekleşen devrimin ardından bölgeye çıkarma yaptı. Ülkedeki demografik yapı, kültürel ve yapısal dönüşüm ile Türkmen nüfusunun yerinde incelendiği ziyarette sonuç bilgilendirmesi yayınlanırken önemli tespitlere yer verildi. […]

SAĞLIK

Çocuklar da kalp hastalıklarına dikkat!

Çocuklarda çeşitli nedenlerle kalp sorunları gelişebilir ve bu koşullar doğuştan (doğumda mevcut) edinilmiş (doğumdan sonra gelişen) kalp sorunlarına kadar değişebilir. Kardiyoloji Uzmanı Dr. Murat Şener çocukların kalp sorunları yaşamasının bazı yaygın nedenlerini hakkında bilgiler verdi. […]

İlk yorum yapan olun

Bir yanıt bırakın