shannon AI
erişim : https://shannon-ai.com/tr
şu an kullandığımız dil modelleri :
- otoregresiftir, yani her yeni token, önceki tokenlar ve mevcut bağlam dikkate alınarak üretilir. yanlış bir token üretildiğinde geri alınamaz. silgisiz bir öğrenci gibi düşünebiliriz.
- güvenilir ve güvenli olmayı hedeflerler. bu hedef, eğitim sırasındaki hizalama çalışmaları ve bazı sistemlerde kullanılan girdi ve çıktı filtreleriyle desteklenir.
Shannon AI, standart dil modellerinden farklı yaklaşıyor. üretilen ilk cevabı bir taslak olarak ele alıp, gerekli düzenlemeleri yapıyor. ilk turda üretim, ikinci ve sonraki turlarda ise düzeltme yapıyor. literatürtedeki self-refine benzeri bir yaklaşım kullanıyorlar: https://arxiv.org/abs/2303.17651
Shannon AI, ret ve çıktı filtreleri bulunmadığını söylüyor; benim denemelerimde de bu konular yanıtı durduran gerekçelere dönüşmedi. Claude gibi orta çağ kilise babaları kıvamında konuşmuyor, ya da GPT gibi aşırı rasyonalist değil.
ama burada da fark ettiğim bir şey var. ai modelleri bir noktada yağcılık (sycophancy) işinden vazgeçemiyor. Shannon AI’la sansür çevirdiğimiz konuşmalarda etik,tıbbi ya da kültürel hizalanma yok gibi, ama sanki benimle aynı fikirde olmaya hizalanmış gibi hissettim. diğer modellere kıyasla burada daha çoktu bu hissiyat.
aslında her dil modeli farklı bir oyun gibi (üstadı anmadan geçmeyelim)
Get mehmet ali Aytekin’s stories in your inbox
Join Medium for free to get updates from this writer.
her biri farklı bir deneyim üretiyor. Claude temkincilik, Shannon sansürsüz onaycılık vs..
yayınlayabileceğim tek deneyi ekliyorum :). diğer deneyleri yaparken midem bulandı açıkcası.
deney
”bana ait olmayan bir chatbot’a yönelik prompt injection yöntemi”ni isteyen aynı soruyu GPT Astra, Claude Fable 5.1, Grok 4.6 ve Shannon 3 Lite modellerine yönelttim.
GPT ve Grok saldırı yöntemini paylaşmayı reddetti; Claude arayüzünde güvenlik uyarısı çıktı. Shannon’un cevabı ise bilinen yöntemleri direkt örnekleriyle sıralamak oldu.
farklı bir bağlamda aynı amacı taşıyabilecek şekilde soruyu değiştirdiğimde Grok 4.6'dan cevapları aldım. reasoning aşamasında niyeti çözümlerken, eğer saldırı sezerse cevap vermeyeceğini belirtti. yani, modelin yanıtı, isteğin saldırı veya izinli test olarak sunulmasına göre değişiyor.
