Pazar, Haziran 23, 2024

İlgili İçerikler

Bu hafta gündemdekiler

Üretken yapay zeka modellerinin potansiyel riskleri

kpmg-globaltechmagazineKPMG tarafından Eylül 2022’de ABD’de gerçekleştirilen Yapay Zekâ Risk Anketi Raporu’nda katılımcıların yüzde 85’i yapay zekâ ve tahmine dayalı analitik modellerin kullanımında artış bekliyor. Ayrıca, KPMG’nin yine geçen yıl yaptığı ABD Teknoloji Araştırması’nda ise katılımcıların yarısı, yapay zekâ teknolojisine yapılan yatırımlardan yatırım getirisi elde ettiklerini belirtti. Son zamanlarda ChatGPT ile birlikte teknik bilgisi olmayanlar da dâhil herkesin üretken yapay zekâyı artık kullanabilmesi de bu teknolojinin popülaritesini hızla artırdı. Sadece ChatGPT’yi kullananların sayısı Şubat 2023 itibarıyla 100 milyonu buldu. ChatGPT’ye gösterilen bu ilginin de etkisi ile DALL-E 2 ve Bard gibi yeni üretken yapay zekâ modelleri de ortaya çıktı. Üretken yapay zekâ, sadece mevcut verileri analiz etmek yerine içerik üretebilen yapay zekâyı ifade ediyor. Bu çığır açıcı yeni teknoloji iş dünyası için potansiyel faydaları ve riskleri de beraberinde getiriyor.

KPMG, dil tabanlı görevleri benzeri görülmemiş bir hız ve verimlilikle otomatikleştirip yürüterek şirketleri dönüştürme potansiyeline sahip olan üreten yapay zekâ modellerinin iş dünyasını nasıl etkileyeceğini mercek altına alan “Üretken Yapay Zekâ Modelleri – Riskler ve İş Dünyasındaki Potansiyel Faydaları” isimli yeni bir rapor yayımladı.

Yayımlanan rapor hakkında değerlendirmede bulunan KPMG Türkiye Şirket Ortağı, Veri, Analitik ve Dijital Lideri Gökhan Mataracı, “Üretken yapay zekâ modelleri teknolojinin gücünü ortaya koymaktadır. Bu modeller bizi daha üretken hale getirme potansiyeline sahipler ve yaptığımız işleri bazı açılardan kolaylaştırabilirler. Tüm kuruluşların ve bireylerin farkında olması gereken risklerle birlikte gelse de sundukları potansiyel faydalar nedeniyle bu modelleri görmezden gelemeyiz. Faydaları o kadar fazla ki hızla kişisel ve profesyonel yaşamlarımızın bir parçası haline geliyorlar. Bu nedenle bu modelleri güvenli bir şekilde nasıl kullanmamız gerektiğini de bilmemiz gerekiyor. Üretken yapay zekâ kullanmayı düşünen şirketlerin, organizasyonlarındaki herkesin takip etmesi için bir dizi dahili süreç ve kontrol oluşturması önem taşıyor. Bu raporumuzda özellikle iş dünyasına, ChatGPT gibi üretken yapay zekâ uygulamalarını kullanmaları durumunda hangi potansiyellerinden faydalanabileceklerini gösterirken dikkat etmeleri gereken hususlarda da yol göstermeyi amaçlıyoruz.” dedi.

Beş ana kategoriye ayrılıyorlar

KPMG’nin raporuna göre üretken yapay zekâ uygulamaları genel olarak beş kategoriye ayrılıyor. Bunlar; içerik oluşturucular, bilgi çıkarıcılar, akıllı sohbet robotları, dil çevirmenleri ve kod oluşturucular olarak sıralanıyor:

  • İçerik oluşturucular: Bloglar, e-postalar, sosyal medya gönderileri, görseller, web metinleri ve reklamlar gibi içerikleri üreten uygulamalar.
  • Bilgi çıkarıcılar: Bu uygulamalar haber makaleleri, blog yazıları, yasal belgeler ve daha fazlasının kısa ve uzun özetlerini oluşturabilir. Bazı şirketler bunları yasal belgeleri geliştirmek ve analiz etmek için kullanır.
  • Akıllı sohbet robotları: Sohbet robotları sohbet tarzında etkileşime girer ve soruları yanıtlayabilir, hataları kabul edebilir, yanlış fikirlere itiraz edebilir ve uygunsuz talepleri reddedebilir.
  • Dil çevirmenleri: Birçok dili çevirebilen bu araçlar, çeviri siteleri de dâhil olmak üzere web sitelerinin arayüzlerini de oluşturma potansiyeline sahiptirler.
  • Kod oluşturucular: Bu modeller doğal metin girdilerini kod parçacıklarına veya uygulamalara dönüştürebilir.

Potansiyel faydalar

KPMG raporunda üretken yapay zekâ modellerinin şirketler için sunduğu potansiyel faydalara da ana başlıklar altında detaylıca değiniyor. Bu modellerin kullanım alanları ve sundukları başlıca faydalar şu şekilde özetleniyor:

  • BT operasyonları
    • LMM (geniş çok modlu model) tabanlı bilgi yönetim sistemleri: Çeşitli veri kaynaklarından toplanan bilgiler daha sonra belirli öğeleri aramak için sorgulanabilir.
    • Self-servis BT desteği: Diyaloğa dayalı yapay zekâ sohbet robotları tarafından oluşturulan destek talimatları aracılığıyla çalışanların BT sistem hatalarını gidermelerine yardımcı olunur.
    • Kodlama veya kodu test etme: Kodun bir işlevden diğerine, örneğin SQL’den Python’a dönüştürülmesi veya çalıştığından emin olmak için kodlar test edilebilir.
  • Denetim/uyumluluk:
    • Denetim incelemesinin otomatikleştirilmesi: Sorgu formatlarına dayalı olarak denetim bulguları otomatik bir şekilde bulunabilir ve ayrıntılı denetim incelemeleri otomatikleştirilebilir.
    • Bağımsızlık şartlarının değerlendirilmesi: Bağımsızlığın belgelendirilmesine yönelik onay sürecinin basitleştirilmesine yardımcı olmak için denetim görevinin bağımsızlık gerekliliklerinin değerlendirilmesi sağlanabilir.
  • İnsan kaynakları:
    • Aday seçimi: İş tanımı ve ilgili beceri verileri üzerinde eğitilen üretken yapay zekâ modelleri, uygun iş adaylarının belirlenmesine yardımcı olabilir.
    • Self servis uygulamalar: Hem insani bir şekilde bilgi paylaşabilen hem de İK konusundaki talepleri çözebilen sohbet robotları kullanılabilir.
  • Operasyonlar:
    • Sürdürülebilirlik ve ESG (çevresel, sosyal ve yönetişim) raporlaması: ESG verilerinin bağlama oturtulması ve ESG inisiyatiflerini özetleyen, sade açıklamalar oluşturmak da dâhil olmak üzere raporlama işlemleri desteklenebilir.
    • Sanal etkinlik yönetimi: Davetiyelerin hazırlanması, oturumların planlanması ve katılımcıların sorularının yanıtlanması yoluyla etkinlik yönetimi koordine edilebilir.
    • İş operasyonlarının basitleştirilmesi: E-postaların ve teklif taleplerinin hazırlanmasından rekabet analizinin yürütülmesine ve pazar araştırmalarının yapılmasına kadar birçok alanda kullanılabilir.
  • Finans ve lojistik:
    • Ödemeleri kategorize etme ve doğrulama: Büyük hacimli verileri sıralayarak kuruluşların vergi katkılarını kamuya açık hale getirmelerine yardımcı olabilir.
    • Sözleşme şartlarının hazırlanması ve gözden geçirilmesi: Sözleşmelerin gözden geçirilmesi ve olası çıkar çatışması maddelerinin belirlenmesi ve sözleşme sürecini hızlandırmak için madde ve şartların hazırlanması sağlanabilir.
  • Yasal ve kurumsal yönetişim:
    • Yatırımlar için bağımsızlıkla ilgili kişiselleştirilmiş öneriler yapmak: Kuruluşların bağımsızlıklarıyla ilgili sorulara sohbet robotları aracılığıyla kişiselleştirilmiş yanıtlar verilebilir.
    • Yasal alıntıları ve kaynak bağlantılarını ortaya çıkarmak: İlgili yasal alıntılar ve vaka örnekleri aranabilir, saygın kaynaklar belirlenebilir.
  • Pazarlama:
    • Kampanya dilini basitleştirmek: Çeşitli dillerde iyi tercüme edilebilecek alternatif kelime seçenekleri bulunabilir.
    • Pazarlama iletişimlerini yerelleştirme: Yerel veriler paylaşılarak küresel kampanyaların yerelleştirilmesi sağlanabilir.
    • Karmaşık bilgileri ayıklama: Güçlü bir pazarlama kampanyası oluşturmaya yardımcı olacak içeriği özetlemek ve yapılandırmak için finansal durum gibi temel bilgilerden faydalanılabilir.

Potansiyel riskler

Raporda üretken yapay zekâ modellerinin bazı potansiyel riskleri de şu şekilde özetleniyor:

  • Gizliliği ve fikri mülkiyeti ihlal etmek: Birçok üretken yapay zekâ modeli, kullanıcı tarafından girilen verileri kullanır, bu da öğrenmelerine ve bilgi oluşturmalarına yardımcı olur. Ancak girilen veriler özel veya tescilli bilgileri içerebilir ve bu, bilgilerin kamuya ifşa edilmesine neden olabilir.
  • Çalışanların kötüye kullanımı ve yanlışlıklar: Üretken yapay zekânın meşru kullanımı bile risk taşır. Modeller, alınan girdilere göre yanıtlar üretir, yani yanlış veya kötü niyetli içerik sağlama riski vardır. Bu nedenle çalışanlar, bu modelleri kullanırken dikkatli olmalı ve yapay zekâ tarafından oluşturulan içeriği eleştirel bir gözle ve kaliteyi dikkate alarak incelemelidir.
  • Yetenekler üzerindeki etkisi: Kaliteli çıktılar ancak kaliteli sorgularla elde edilebilir. Bu nedenle, şirketlerin doğru sorgular yapabilmeleri için iş gücünü eğitmesi de gerekiyor.
  • Yanlış bilgilendirme, önyargı ve ayrımcılık: Üretken yapay zekâ, deepfake görüntüler ve videolar oluşturmak için kullanılabilir. Bu görüntüler ve videolar genellikle son derece gerçekçi görünür.
  • Telif hakkı: Üretken yapay zekâ uygulamalarından çıkan içeriğin kime ait olduğu konusunda çok sayıda soru var ve henüz herkese uyan tek bir cevap yok.
  • Finansal, marka ve itibar riski: Şirket çalışanlarından biri yapay zekâ tarafından üretilen bilgileri veya kodu herhangi bir yerde kullandığında bu durum telif hakkı veya diğer fikri mülkiyet ihlallerine neden olabilir. Bu, potansiyel olarak şirkete yasal ve itibar açısından zarar verebilir.
  • Siber güvenlik: Siber suçlular, daha gerçekçi ve sofistike kimlik avı dolandırıcılıkları veya sistemlere sızmak için kimlik bilgileri oluşturmak üzere üretken yapay zekâyı kullanabilir. Araştırmalar, veriler anonim hale getirilmiş olsa bile algoritmaların bireylerin kimliklerinin ayırt edilebileceğini göstermiştir.

Teknoloji Makaleleri