ABD Federal Ticaret Komisyonu tarafından yapılan bir incelemeye göre, tüketicilerin yapay zekanın oluşturulma şekli ve verilerin nasıl dahil edildiği konusunda gerçek endişeleri var. Birçok üretken YZ modelinin eğitim ve öğrenim için büyük veri kümelerine ihtiyacı vardır. Yapay zekâ modellerinin nasıl oluşturulup sürdürüldüğünü ve bunun başlangıçta tüketiciler için adil bir şekilde yapılıp yapılmadığının sorgulanması gerekmektedir.
Örneğin, bir YZ modelini eğitmek için kullanılan veriler yasal olarak ve insanların rızasıyla mı toplanıyor? Bu verileri etiketleyen ve kategorize eden insan emeği etik midir? Ve ilgili çevresel kaynaklar sorumlu bir şekilde yönetiliyor mu? Ürün etiketlemenin insanların gıda, tekstil veya ilaçlarının içinde ne olduğunu anlamalarına yardımcı olması gibi, geliştiriciler de tüketicilerin kullandığı bir araç oluşturmak için neler yapılması gerektiği konusunda saydam olmalıdır.
⦁ Dağıtım
Bir YZ modeli oluşturulduktan sonra bunun dağıtımı tüketici öncelikli bir şekilde yapılmalıdır.
Açık kaynak geliştirme ve kapalı kaynak geliştirme önemli bir tartışma olarak ortaya çıkmıştı. Açık modellerde, bir uygulamanın kaynak kodu herkesin kullanımına açık iken, kapalı bir model ise özel ve tescilli tutulmaktadır.
Her iki yaklaşımın da lehine argümanlar var ve yeni araçların toplumun kullanımına sunulduğunu görmek heyecan vericidir. Ancak tüketicileri doğru şekilde korumak için, bir yapay zeka modeli ortaya çıktığında toplum üzerindeki etkinin ne olacağının bilinmesi gerekiyor.
Bu ürünlerin geliştiricileri ve dağıtımcıları, bunların sunabileceği riskleri değerlendirdi mi veya açıkladı mı? Araştırmacılar veya icra kurumları gibi harici tarafların bu iddiaları bağımsız olarak doğrulamasına izin veriyorlar mı? Açık modeller söz konusu olduğunda, bu kodu kimin temel alabileceğine ve bu kodla ne yapmasına izin verildiğine ilişkin kurallar var mı?
Örneğin, açık üretken yapay zeka modellerinin halihazırda rızaya dayalı olmayan cinsel görüntüler oluşturmak için kullanıldığını biliyoruz. Norveç Tüketici Konseyi, teknolojinin yaratabileceği büyük zararları ayrıntılı olarak açıkladı. Özellikle, yeni bir yanlış bilgi (misinformation) ve yanıltıcı bilgi (disinformasyon) çağını başlatma ve kötü aktörleri dolandırıcılıkla güçlendirme potansiyeline sahiptir. Aynı zamanda siber aldatmacanın fark edilmesini de zorlaştırabilir: Araştırmalar, insanların yapay zeka tarafından yazılan içeriği yalnızca zamanın yarısında tanımlayabildiğini gösteriyor.
Uluslararası Tüketiciler Örgütü (CI) 2023 Küresel Kongresi’nde yayınladığı ‘Çevrimiçi Dolandırıcılığı Durdurmaya Yönelik Küresel Bildirisi’nde hükümetlere teknoloji platformlarındaki bu tür faaliyetlere karşı yeterli koruma sağlama çağrısında bulunmuştu. CI’a göre, gereksinim duyulan şey, bunları önlemek, saptamak, bozmak ve bunlara yanıt vermek için etkili eylem ve düzenlemelerdir.
Yapay zeka sistemlerini geliştirenler, zarar potansiyeli hakkında bildiklerini kabul etmeli ve rapor etmelidir
⦁ Sorumluluk
Ayrıca ortaya çıkan sorunları çözmek için sağlam prosedürlerin olup olmadığını ve endüstri, hükümet ve sivil toplum genelinde doğru düzeyde hesap verebilirlik ve başvurunun sağlanıp sağlanmadığını da sorgulamamız gerekiyor. Bu, tüketicilere yönelik tazminat hakkını, devletin erişim taleplerinin ifşa edilmesini ve fikri mülkiyet ihlallerini içerir.
Başka bir deyişle, bir YZ dizgesi bir insan için sorun yaratırsa kim suçlanacak ve bunu kim düzeltmeli? Sorumluluğun net sınırlarının çizilmesi gerekiyor.
YZ ve diğer teknolojilerin adil olmayan bir şekilde ayrımcılık yapma veya önyargıları sürdürme potansiyeli hakkında çok şey yazıldı, ancak bundan kimin sorumlu tutulması gerektiği veya etkilenenler için herhangi bir başvuru yapılması gerekip gerekmediği hakkında daha az şey yazıldı. Kredi verme, sağlık hizmetleri, sigorta veya işe alma gibi konularda yapay zekâ algoritmaları tarafından alınan kararlara itiraz etme veya bunlara itiraz etme yolları hakkında güçlü bir tartışmanın olması gerekiyor.
Hepimizin farkında olduğu üzere YZ her yerde yaygınlaşıyor.
Hepimiz YZ’nın hayatlarımızı yararlı ve etkili yollarla yeniden şekillendirme gücünün farkındayız. Ancak değişimin hızı ve düzenleme eksikliği, tüketicinin korunması konusunda proaktif politika oluşturulmasının gereğine işaret ediyor.
Avrupa Birliği'nin ‘Yapay Zeka Yasası’ gibi önemli yasama çabaları geçen yıl başlatıldı ve tüketicileri koruma fikrinin ardındaki üst düzey farkındalığı, desteği ve ivmeyi ortaya koydu.
Hepimiz teknolojinin gücünden yararlanmak istiyoruz ve eğer bunu sorumlu bir şekilde yaparsak, ÜYZ en az sakıncayla geniş yararlar sağlayabilir. Bu riskler tartışılmadan ve azaltılmadan sonuç çok farklı olabilir.
Artık tüketicileri ilk sıraya koymanın zamanı geldi.
YZ ve ÜYZ KONUSUNDA EK AÇIKLAMA (1) :
Yapay Zeka’yı (AI) ‘makinelerin ve bilgisayarların insanlar gibi karmaşık görevleri yerine getirebilmesi için tasarlanmış bir teknoloji’ olarak tanımlamak ve kapsamını da ‘veri analizi, dil işleme, öğrenme ve problem çözme gibi çeşitli görevler’ olarak sıralamak olanaklıdır. Üretken Yapay Zeka (Generative AI) ise ‘YZ’nın bir alt kategorisi olarak nitelenebilen bir uygulama’ olarak tanımlanabilmektedir. Bu tür YZ’ların kapsamı ise ‘eğitim verilerinden bağımsız olarak yeni ve özgün (müzik, yazı, konuşma veya resim biçiminde) veri oluşturabilme’ olarak belirtilmektedir. Yapay Zeka, birçok farklı sektörde ve uygulamada (örneğin, otomasyon, müşteri hizmetleri, tıbbi tanı, kestirim ve enuygunlaştırma vb.) kullanılabilmektedir. Beri yandan ÜYZ daha yaratıcı uygulamalarda kullanılmaktadır. Örnekse, resim çizmek, yeni müzik parçası oluşturmak, yazınsal yapıtlar (öykü, şiir vb.) oluşturmak gibi eylemlerde! Teknoloji ve yöntem olarak YZ’da makine öğrenmesi (ML), derin öğrenme (DL), doğal dil işleme (NLP) vb. kullanılmaktadır. ÜYZ’da ise Generative Adversarial Networks (GANs) gibi özel teknolojiler kullanılır. Bu tekniğin iki ayrı ağı kullandığının altını çizelim: İlki (üreteç) gerçekçi veri oluştururken, diğeri (ayırt edici) bu veriyi gerçekçi veriyle karşılaştırır. Bu süreç, üretecin daha gerçekçi ve özgün veri oluşturmasını sağlar. ÜYZ’nın daha iyi veri sentezi, yaratıcı alanlarda kullanılması, kişiselleştirilmesi, karar destek dizgelerinde kullanılabilmesi gibi eğilimlerden söz edilirken, deepfake gibi teknolojilerle yeni güvenlik ve etik zorluklara yol açabileceği belirtilmektedir.
(1): Kaynak:
https://medium.com/@ayhanbzkrt/%C3%BCretken-yapay-zeka-generative-ai-ve-yapay-zeka-aras%C4%B1ndaki-farklar-nelerdir-d3775466ef01