Hatte die Gelegenheit, einen ersten Durchgang durch dieses Papier zu machen. Dieses Papier ist wirklich großartig. Ich glaube nicht, dass ich ein anderes Papier zur Post-AGI-Ökonomie gesehen habe, das die Konsequenzen der zunehmenden Automatisierung und die fortdauernde Relevanz menschlicher Intelligenz so scharf definiert, wie die Lücke zwischen den Kosten für die Automatisierung und den Kosten für die Verifizierung. Es gibt zwei Dinge, die mir aufgefallen sind. Das erste ist dieser Zyklus: > Wenn Experten Agenten beaufsichtigen, produzieren sie Korrekturen, Labels und "Wie-man"-Wissen. Das wird als Trainingsdaten / Werkzeuge erfasst, was die Kosten für die Automatisierung senkt. > Wenn die Automatisierung günstiger wird, ersetzen Unternehmen Menschen durch Agenten. Das senkt den Bedarf an Menschen, insbesondere für Einstiegspositionen. > Mit weniger angesammelter Erfahrung hat die Gesellschaft weniger fähige Prüfer, und die Verifizierung wird teurer. > Jetzt entsteht die Lücke zwischen den Kosten für die Automatisierung und den Kosten für die Verifizierung, was bedeutet, dass Agenten in mehr Bereichen operieren können, als Menschen zuverlässig prüfen können (blinde Flecken). > In diesen blinden Flecken können Menschen kein enges korrektives Feedback geben. Agenten optimieren weiterhin messbare Proxys, und das Verhalten kann sich von der wahren menschlichen Absicht entfernen. Das zweite, das mir aufgefallen ist, ist das Konzept von "Haftung-als-Service". Im Grunde genommen besagt es, dass die Bereitstellung eines Agenten durch einen Anbieter mit einer Verantwortung verbunden ist, dass, wenn der Agent Schaden / Verluste / rechtliche Probleme in definierten Weisen verursacht, der Anbieter zahlt (bis zu einer Grenze). Der Kunde kauft also ein entschädigtes Ergebnis, nicht nur Software. Das zwingt Unternehmen im Grunde genommen dazu, das Risiko zu internalisieren, dass Agenten nicht mit dem Benutzer übereinstimmen. Ich mag dieses Konzept von Haftung-als-Service sehr, weil die gesamte These unserer @eigencloud-Plattform auf Slashing und Versicherung basierte. Jeder Dienst, der auf @eigencloud bereitgestellt wird, soll gestakt werden, und wenn der Dienst dem Benutzer schadet, wird der Einsatz hinter dem Dienst gekürzt und entschädigt den Benutzer basierend auf dem Vorabkauf des Benutzers. Ich kann jedem nur empfehlen, dieses Papier zu lesen!