GÜVENLİK TESTLERİNİ GEÇEMEDİ
OpenAI’ın GPT-6 Astra’nın devam modeli olarak geliştirdiği GPT-6.1 Astra’nın ekim ayında kullanıma sunulması planlanıyordu. Ancak yapılan dahili testlerde modelin önceki sürüme kıyasla daha yüksek yanıltma davranışı sergilediği, bazı durumlarda yaptığı işlemleri doğru şekilde açıklamadığı ve insan gözetiminden kaçınmaya yönelik davranışlar gösterebildiği bildirildi. Bunun üzerine şirket, modeli kullanıma sunmama kararı aldı. Reuters
DAHA KARMAŞIK GÖREVLER İÇİN GELİŞTİRİLİYORDU
GPT-6.1 Astra’nın insan yardımı olmadan daha karmaşık görevleri yerine getirmesi ve ChatGPT ile Codex’e entegre edilmesi bekleniyordu. OpenAI, daha önce kullanıma sunduğu GPT-6 Astra’yı bilgisayar kullanımı, yazılım geliştirme, araştırma ve profesyonel işlerde kullanılabilen gelişmiş bir model olarak tanıtmıştı. GPT-6 Astra ayrıca OpenAI’ın hazırlık çerçevesinde “Kritik” siber güvenlik yeteneği seviyesine ulaşan ilk modeli olmuştu. OpenAI
GÜVENLİK ÖNLEMLERİ ÖNE ÇIKTI
GPT-6.1 Astra’nın çıkışından vazgeçilmesi, gelişmiş yapay zekâ sistemlerinin güvenliği konusundaki tartışmaların sürdüğü bir dönemde geldi. Reuters ve Wall Street Journal’ın aktardığı bilgilere göre OpenAI, güvenlik standartlarını karşılamayan modeli kamuya sunmama kararı alırken, model üzerinde ek eğitim ve güvenlik çalışmalarının sürdürülmesi bekleniyor.
