Architektura Transformeru je v zásadě paralelním procesorem kontextu, ale uvažování je sekvenční, iterativní proces. Pro řešení složitých problémů potřebuje model "scratchpad" nejen ve svém výstupním CoT, ale i ve svém vnitřním stavu. Diferencovatelný způsob smyčky, větvení a zpětného postupu, dokud model nenajde řešení, které funguje.