Büyük ön baskı yeni çıktı! İnsanların ve LLM'lerin yedi epistemolojik aşamada nasıl yargı oluşturduğunu karşılaştırıyoruz. İnsanlar ve LLM'lerin temel olarak ayrıldığı yedi fay hattını vurguluyoruz: Temelleme hatası: İnsanlar yargıyı algısal, bedensel ve sosyal deneyime bağlayırken, LLM'ler yalnızca metinden başlar ve anlamı dolaylı olarak sembollerden yeniden inşa eder. Ayırma hatası: İnsanlar durumları entegre algısal ve kavramsal süreçlerle ayrıştırır; LLM'ler, yapısal olarak uygun ancak anlamsal olarak zayıf bir temsil sağlayan mekanik tokenizasyon gerçekleştirir. Deneyim hatası: İnsanlar epizodik hafızaya, sezgisel fizik ve psikolojiye ve öğrenilmiş kavramlara dayanır; LLM'ler yalnızca gömülerde kodlanmış istatistiksel çağrışımlara dayanır. Motivasyon hatası: İnsan yargısı duygular, hedefler, değerler ve evrimsel olarak şekillenmiş motivasyonlarla yönlendirilir; LLM'lerin içsel tercihleri, amaçları veya duygusal anlamı yoktur. Nedensellik hatası: İnsanlar nedensel modeller, karşı gerçekler ve ilkeli değerlendirme kullanarak akıl yürütür; LLM'ler, nedensel açıklamalar oluşturmadan, yüzeysel korelasyonlara dayanarak metin bağlamını entegre eder. Metabilişsel hata: İnsanlar belirsizliği izler, hataları tespit eder ve yargıyı askıya alabilir; LLM'ler metabilişten yoksundur ve her zaman bir çıktı üretmek zorundadır, bu da halüsinasyonları yapısal olarak kaçınılmaz kılar. Değer hatası: İnsan yargıları kimliği, ahlakı ve gerçek dünyadaki riskleri yansıtır; LLM "yargıları", içsel değerleme veya hesap verebilirlik içermeyen olasılıksal bir sonraki token tahminleridir. Bu fırlanmalara rağmen, insanlar LLM çıktılarına sistematik olarak aşırı inanırlar, çünkü akıcı ve kendinden emin dil güvenilirlik önyargısı oluşturur. Bunun yapısal bir durum yarattığını, Episemi olduğunu savunuyoruz: Dilsel makullük, epistemik değerlendirmenin yerini tutar; bu da aslında bilmeden bilme hissi yaratır. Episemi'yi ele almak için üç tamamlayıcı strateji öneriyoruz: epistemik değerlendirme, epistemik yönetişim ve epistemik okuryazarlık. İlk yanıtta tam bir yazı. @Walter4C ve @matjazperc ile ortak