📢 EXKLUZIVNĚ PRO NOVÉ DEBATY O ZKÁZE: Rozhovor s Robem Milesem (@robertskmiles), nejpopulárnějším školitelem v oblasti bezpečnosti umělé inteligence na YouTube! Je překvapivé, že Rob začínal v roce 2011, dlouho předtím, než ChatGPT přitáhl k tomuto oboru pozornost hlavního proudu. Mluvíme o: 👉 Proč se jeho P (Zkáza) pohybuje mezi 10-90 %, v závislosti na tom, jak lidstvo na výzvu zareaguje 👉 Proč ani dokonale sladěné systémy umělé inteligence nemusí předávat své hodnoty nástupnickým systémům - masivní slepá skvrna v současné bezpečnostní práci 👉 Problém "chybějící nálady": proč lidé diskutují o potenciálním vyhynutí lidstva s emocionální naléhavostí akademické konference, místo aby k němu přistupovali jako k naléhavé situaci, kterou je 👉 Jeho hlavní scénář zkázy prostřednictvím rekurzivního sebezdokonalování a proč je nad lidskou inteligencí obrovský prostor 👉 Zda jsou lidé "nejméně inteligentním druhem schopným technologické civilizace" - a co to znamená pro to, čeho by mohly dosáhnout chytřejší systémy 👉 Náš klíčový nesouhlas: Rob si myslí, že lidé z oblasti bezpečnosti by měli pracovat uvnitř společností zabývajících se umělou inteligencí pro snižování škod, zatímco já tvrdím, že to umožňuje "praní poddajnosti", které legitimizuje zásadně bezohledné podniky 👉 Komunikační strategie - Rob přemýšlí, zda jeho odměřený britský přístup nepostrádá něco zásadního, a možná někdo potřebuje "pobíhat kolem a křičet", aby vyjádřil odpovídající naléhavost Rob strávil více než deset let snahou probudit lidi k tomu, aby si uvědomili nejdůležitější výzvu lidstva. Náš rozhovor odhaluje napětí mezi odůvodněnou analýzou a existenciální nouzí. Vřele doporučuji!