Bu hafta gündemdekiler

İlgili İçerikler

Yapay zeka aslında potansiyel veri ihlali riski mi yaratıyor?

Palo-Alto-Networks-globaltechmagazineGizli tutulması gereken bir sözleşme üzerinde çalıştığınızı ama yabancı dil ve yazım konusunda kararsız olduğunuzu düşünün. Sonra yazınızı mükemmel hale getirecek güçlü bir yapay zeka (AI) aracı buluyorsunuz. Sözleşmenizi hemen yapay zekaya gönderiyorsunuz, bu AI aracı da görevini yerine getiriyor. Fakat sonra gizli belgenizin yapay zeka modeline aktarıldığını ve yapay zeka öğreticileri tarafından incelenme olasılığı olduğunu fark ediyorsunuz. Daha da kötüsü, sözleşmeniz modeli eğitmek için kullanılabilecek ve diğer kullanıcıların çıktılarında görünebilecek. Nasıl tepki verirdiniz? AI araçlarının kullanılabilirliği ve güvenliği konusundaki ikilem, ChatGPT pazara sunulduğundan bu yana gerçek bir endişe haline gelmiş bulunuyor.

OpenAI tarafından geliştirilen ChatGPT, OpenAI’ın GPT-3.5 ve daha yakın tarihli GPT-4 modelleri üzerinde kurgulanan bir yapay zeka chatbotu. Aylık aktif kullanıcısı 100 milyonu aşan ChatGPT bugün internette en çok konuşulan AI ürünü haline geldi.

ChatGPT; doğal dil üretme, soruları yanıtlama, duygu analizi, çeviri ve içerik üretme gibi özelliklere sahip. Öte yandan, ChatGPT etkileyici doğal dil işleme (NLP) kabiliyetine karşın intihal, gizlilik ve veri sızıntısı gibi konularda pek çok endişeye de yol açıyor.

ChatGPT ile İlgili Güvenlik Kaygıları

İtalya, yapay zeka aracının ülkenin veri toplama politikalarını ihlal ettiğine ilişkin endişelerin artmasıyla birlikte Mart ayında ChatGPT’yi geçici olarak yasakladı. Bu arada Amazon ve Walmart gibi şirketler de aksiyon almaya başladı. “ChatGPT gibi AI sistemleriyle bilgi paylaşmayın, AI chatbot ile kod paylaşmayın” gibi mesajlarla çalışanlarını üretken AI hizmetlerini kullanırken dikkatli olmaları için uyardılar. Bu sırada Uzakdoğulu büyük bir üreticinin çalışanlarının ticari sır verilerini yanlışlıkla ChatGPT aracılığıyla sızdırdığı ortaya çıktı. Sözü edilen ChatGPT kabiliyetlerine bağlı olarak güvenlik endişeleri çeşitli şekillerde daha da artabilir. Örneğin, gömülü çeşitli gizlemelerle saldırganların kötü amaçlı kod yazmasına yardımcı olabilir. Sosyal mühendislik saldırılarına daha fazla içerik sağlayarak saldırganların inandırıcı kimlik avı içeriği üretmek için ChatGPT’den yararlanmasına yol açabilir. Dahası, insanların modele hassas veriler gönderebilme olasılığı ve bu bilgilerin daha sonra ele geçirilebileceği düşünüldüğünde veri sızıntısı gibi güvenlik riskleri de söz konusu olabilecektir.

Unit 42 araştırmacılarının bir süre önce yayınladığı bir blog yazısına göre, ChatGPT temalı dolandırıcılık saldırılarının yükselişte olduğu görülüyor. Araştırmacılar, Kasım 2022 ile Nisan 2023 başları arasındaki dönemde ChatGPT ile ilişkili alan adı tescillerinin ayda %910 arttığını ve DNS Güvenlik loglarından ilgili alan adı işgallerinde %17.818 oranında artış olduğunu tespit ettiler. Dolandırıcıların kullanıcıları kötü amaçlı yazılım indirmeye veya hassas bilgileri paylaşmaya ikna etmek için yararlandığı çeşitli yöntemleri göstermek için pek çok vaka çalışması sundular. Taklit chatbot kullanmanın olası tehlikelerini vurgulayan araştırmacılar ayrıca ChatGPT kullanıcılarını bu tür chatbotlara temkinli yaklaşmaları için uyarıyor. Advanced URL Filtering, DNS Security ve WildFire abonelikleri bu soruna yanıt veriyor.

OpenAI ile İlişkili App-IDler

En son yapay zeka trendlerini titizlikle takip eden Palo Alto Networks, bunlarla ilişkili potansiyel tehditleri aktif olarak değerlendiriyor. OpenAI bağlantılı trafiğin görünürlüğünü artırmak ve aynı zamanda müşterilerimizin Gelecek Nesil Güvenlik Duvarlarımızla (NGFWlar) ChatGPT kullanımını yönetmelerine ve kontrol altında tutmalarına yardım etmek için Nisan ayında openai-base, openai-chatgpt ve openai-api olmak üzere üç OpenAI bağlantılı App-ID sunduk.

openai-base: ChatGPT haricindeki genel OpenAI trafiğini kapsıyor. Bu App-ID, OpenAI araştırmasıyla ilgili ağ trafiğini, geliştiricilerin eğitim ve dokümanlarını, şirket bilgilerini ve ürünlerini (DALL·E gibi) kapsayacak. Ayrıca OpenAI web sitesindeki NGFWların trafik loglarında openai-base olarak gösterilecek.

openai-chatgpt: Sıradan ChatGPT kullanıcılarına daha genel bir kullanım yolu sunan web tabanlı bir ChatGPT ara yüzünün trafiğini kapsıyor.

openai-api: Sadece ChatGPT’yi değil aynı zamanda OpenAI’ın görüntü üretme gibi diğer özelliklerini de içeren API bağlantılı tüm trafiği de kapsıyor. OpenAI, APIlerin programlı olarak AI modellerine erişebilmesini sağlıyor. Geliştiricilerin ChatGPT’yi kullanmasının daha genel bir yolu olan OpenAI APIleri aracılığıyla ChatGPT’yi destekleyen GPT-3 ve GPT-4 gibi AI modellerine erişilebiliyor.

OpenAI trafik yönetim sürecini sadeleştirmek amacıyla yukarıdaki üç App-ID ile birlikte bunları içeren App-ID toplayıcı bir OpenAI da sunuldu.

OpenAI Trafiğini Güvenlik Politikalarıyla Yönetme

Bu üç OpenAI App-ID, Palo Alto Networks NGFW müşterilerinin ChatGPT’ye erişimi esnek bir şekilde kontrol altında tutmasını ve yönetmesini, farklı ara yüzlerden üretilen OpenAI trafiğini net olarak görebilmesini sağlıyor. Bu üç App-ID ayrı ayrı tanımlandığı için sadece openai-base engellendiğinde openai-chatgpt veya openai-api engellenmiyor.

taban chatgbt API politikanın sonucu
OpenAI bağlantılı tüm trafiğe izin verilecektir.
🚫 Genel OpenAI trafiğine ve web tabanlı ara yüzlerden ChatGPT trafiğine izin verilecektir. API’lerden ChatGPT trafiği engellenecektir.
🚫 Genel OpenAI trafiğine ve API’lerden ChatGPT trafiğine izin verilecektir. Web tabanlı ara yüzlerden ChatGPT trafiği engellenecektir.
🚫 🚫 Genel OpenAI trafiğine izin verilecektir. Web tabanlı ara yüzlerden ve API’lerden ChatGPT trafiği engellenecektir.
🚫 Genel OpenAI trafiği engellenecektir. Web tabanlı ara yüzlerden ve API’lerden ChatGPT trafiğinin çoğuna izin verilirken bazı özelliklerden yararlanılamayacaktır.
🚫 🚫 Genel OpenAI trafiği ve API’lerden ChatGPT trafiği engellenecektir. Web tabanlı ara yüzlerden ChatGPT trafiğinin çoğuna izin verilirken bazı özelliklerden yararlanılamayacaktır.
🚫 🚫 Genel OpenAI trafiği ve web tabanlı ara yüzlerden ChatGPT trafiği engellenecektir. API’lerden ChatGPT trafiğinin çoğuna izin verilirken bazı özelliklerden yararlanılamayacaktır.
🚫 🚫 🚫 OpenAI bağlantılı tüm trafik engellenecektir.

Şekil 2. OpenAI App-IDlerin Güvenlik Politikası Konfigürasyonu

Üç App-ID aracılığıyla OpenAI trafik yönetimi için güvenlik politikaları konfigürasyonu farklı senaryolar gösteriyor. Şekil 2’deki güvenlik politikası kuralında ✅ “izin ver”, 🚫 “reddet” anlamına geliyor.

Bir App-ID’ye izin vermek istiyorsanız, uygulamanın tamamıyla işlevsel olması için “bağlantılı” App-IDlere de izin verilmesi gerektiğini belirtmeliyiz. Örneğin, openai-base App-ID; SSL, web-tarama ve WebSocket ile bağlantılıdır. Openai-base ile birlikte bu üç App-ID’ye de izin verilmelidir. Benzer olarak openai-chatgpt veya openai-api’ye izin vermek istiyorsanız, openai-base (“bağlantılı” üç App-ID dahil) için tam erişim izni verilmelidir.

Yapay Zekanın Getirdiği Yeni Zorluklar

Popülerliği giderek artan ChatGPT AI uygulaması günümüzün dijital dünyasına yeni zorlukları ve tehditleri de beraberinde getiriyor. Palo Alto Networks NGFW, sahip olduğu üç OpenAI App-ID ile müşterilerini ChatGPT kullanımını ve erişimini esneklikle kontrol altında tutmaları ve yönetmeleri için güçlendiriyor. Bu App-IDler ayrıca enterprise ağ yöneticilerine ChatGPT kullanımını daha iyi görme imkanı sunuyor. Bu sayede enterprise ağ güvenliği artırılırken potansiyel veri ihlali riskleri azaltılıyor. Enterprise DLP de ChatGPT’ye veri sızmasını engellemeye yardımcı oluyor.

ChatGPT gibi başka büyük dil modeli tabanlı chatbotlar var ve ileride daha fazlası olacak. Biz de bugün ve gelecekte müşterilerin bu yeni endişelerini ele almalarına yardımcı olacağız.

Teknoloji Makaleleri