Temmuz 2023’te dört teknoloji devi Open AI, Microsoft, Google ve Anthropic, Frontier Model Forum isimli bir platform kurduklarını duyurdu. Forum, üretken yapay zekanın, bilhassa de hudut yapay zeka modellerinin inançlı ve sorumlu bir biçimde geliştirilmesini sağlamayı amaçlıyordu.
Ve artık şirketler, Frontier Model Forum’un birinci İcra Yöneticisi olarak Chris Meserole‘un atandığını ve yapay zeka güvenliği alanındaki araştırmaları geliştirmek için 10 milyon dolardan fazla bir girişimle bir yapay zeka güvenlik fonu kurulduğunu ortak bir açıklama ile duyurdu. Yapay Zeka Güvenlik Fonu’na dört teknoloji devinin yanı sıra Patrick J. McGovern Vakfı, David ve Lucile Packard Vakfı, Eric Schmidt (Google’ın eski CEO’su ve hayırsever) ve Jaan Tallinn (Estonyalı milyarder) değerli katkılarda bulunuyor.
Fon, yeni model değerlendirmelerinin ve yapay zeka modellerinin kırmızı grup olarak kullanılmasına yönelik tekniklerin geliştirilmesine öncelik verecek. Hasebiyle bunlar, hudut sistemlerinin tehlikeli olabilecek yeteneklerine yönelik kıymetlendirme tekniklerinin geliştirilmesine ve test edilmesine yardımcı olacak.
En son çalışma kümesi güncellemesinde küme, kırmızı takım için “Zararlı yeteneklerin, çıktıların yahut altyapı tehditlerinin belirlenmesi için YZ sistemlerini ve eserlerini araştırmaya yönelik yapılandırılmış bir süreç” halinde bir tarif getiriyor. Ayrıyeten mevzuyu vurgulayan olay çalışmaları da paylaşılıyor.
Yayınlanan blog yazısında ayrıyeten Forum’un yakın vakitte devam eden kimi projelerinden de bahsedildi. Forum, öncü yapay zeka laboratuvarlarının, öncü yapay zeka modellerindeki güvenlik açıklarının yahut potansiyel olarak tehlikeli yeteneklerin keşfedilmesi ve bunların hafifletilmesiyle ilgili bilgileri paylaşmasına imkan tanıyacak yeni bir süreç üzerinde çalışıyor. Ayrıyeten gelecekte strateji oluşturmaya yardımcı olacak bir Danışma Heyeti kurmayı planlıyor.