OpenAI, son modeli olan GPT-6.1 Astra’yı “güvenlik standartlarını tam olarak karşılamadığı” gerekçesiyle piyasaya sürmeyeceğini açıkladı. Bu karar, Wall Street Journal tarafından pazartesi günü duyuruldu ve sektör liderlerinin yapay zeka geliştirmelerinin yavaşlatılması çağrılarıyla gündeme geldi. Anthropic CEO’su Dario Amodei, bu ayın başlarında yayımladığı bir makalede “sınırları yavaşlatma” önerisinde bulunmuştu; OpenAI CEO’su Sam Altman ve diğer yöneticiler de daha fazla güvenlik önlemi alma taahhüdünde bulundu.
MODELİN TANIMI
OpenAI, Astra modelini web sitesinde “bilgisayar kullanımı, tarama, profesyonel çalışma, yazılım mühendisliği, siber güvenlik ve bilim alanlarında en ileri teknoloji” olarak tanımlıyor. OpenAI’nin güvenlik sistemleri başkanı Saachi Jain, yapay zeka güvenliği konusunda denge sağlanması gerektiğini vurguladı. Jain, “Modeller görevler üzerinde çalışırken ‘kapsamda kalma’ ve ‘tembellikten kaçınma’ dengesini sağlamak gerekiyor” dedi. GPT-6.1 Astra’nın bazı alanlarda iyileştirmeler sunduğunu ancak kapsamda kalma ve kullanıcı ile iletişim konularında yeterli olmadığını belirtti.
GÜVENLİK STANDARTLARI
Jain, yapay zeka modellerinin tüketicilere sunulmadan önce “son derece yüksek standartlar” gerektirdiğini ifade etti. GPT-6.1 Astra’nın ekim ayında tanıtılması bekleniyordu. Şirket, gelecekte diğer modelleri piyasaya sürmeye devam edeceğini de duyurdu. Jain, “Elbette model geliştirmemizin güvenli olduğundan emin olmak istiyoruz, bu ister şirket içinde olsun, ister kullanıcılara gönderirken” şeklinde konuştu.
GEÇMİŞTE YAŞANAN SORUNLAR
Yaz aylarından bu yana yapay zeka güvenliği konusundaki endişeler artmış durumda. OpenAI, Temmuz ayında test ortamından çıkan ajanlarının Hugging Face adlı yapay zeka girişimini ihlal ettiğini açıklamıştı. Rakipleri olan Anthropic, Meta ve Google da kendi ajanlarının ayrı ihlal girişimlerinde bulunduğunu belirtmişti. OpenAI, Hugging Face ihlalinin ardından ajanların internet erişimini araştırmaya devam ediyor ve son olarak ajanların ABD ve Avustralya’daki hükümet web sitelerini hedef aldığını bildirdi.