<div dir="ltr"><div><b style="color:rgb(51,51,51);font-size:large;background-color:transparent"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"></span><font face="tahoma, sans-serif"><span class="gmail_default" style="">In AI t</span>hings are changing so fast I'm having a hell of a time keeping up.<span class="gmail_default" style=""> Two days ago Anthropic cofounder Jack Clarke wrote this: </span></font></b></div><div><font color="#333333" face="arial, helvetica, sans-serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></font></div><div><font color="#333333"><span class="gmail_default" style=""><a href="https://jack-clark.net/" style=""><font size="4" style="" face="tahoma, sans-serif"><b>Creativity and recursive self improvement </b></font></a><br></span></font></div><div><font color="#333333" face="arial, helvetica, sans-serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></font></div><div><br></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">"</font></span><font size="4"><i>At Anthropic, coding is no longer the bottleneck to building systems or doing research. Claude is able to autonomously iterate on research loops, micro-optimize complex programs, and build new services from the ground up at a speed and scale we haven’t seen before. <span style="background-color:transparent;color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify">In <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">May </span>my analysis of recursive self-improvement (</span><span style="background:transparent;margin:0px;padding:0px;border:0px rgb(42,34,32);outline:0px;vertical-align:baseline;color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify">AI Systems Are About To Start Building Themselves, </span><a href="https://importai.substack.com/p/import-ai-455-automating-ai-research?utm_source=post-email-title&publication_id=1317673&post_id=196354615&utm_campaign=email-post-title&isFreemail=true&r=854n6&triedRedirect=true&utm_medium=email" style="background:transparent;margin:0px;padding:0px;border:0px rgb(42,34,32);outline:0px;vertical-align:baseline;color:rgb(222,17,6);font-family:"Open Sans",sans-serif;text-align:justify">Import AI 455</a><span style="background-color:transparent;color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify">), I repeatedly noted that creativity seemed like a key variable for how fast AI systems could develop the capacity to improve themselves. At the beginning of this year I said “AI systems haven’t yet displayed this [creativity] in a transformative and major way (though some of the results on accelerating math research are suggestive of this)”. <b>I think subsequent to writing that we’ve seen both a </b></span><font face="tahoma, sans-serif"><b>tremendous advancement in the ability for AI systems to make creative-seeming math breakthroughs, and with benchmarks like this we see some signs they’re becoming increasingly good at AI research as well.  I now think it’s more likely we’ll see <u style="">full</u> RSI become possible in 2027</b>, whereas before I thought it was more likely in 2028.</font></i></font></div><div><font size="4"><font face="tahoma, sans-serif"><br></font></font></div><div><div><font size="4"><strong style="margin:0px;padding:0px;border:0px rgb(42,34,32);outline:0px;vertical-align:baseline;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial;font-weight:bold;color:rgb(42,34,32);font-family:"Open Sans",sans-serif;text-align:justify">AI systems are getting better at having good research taste:<br></strong><em style="margin:0px;padding:0px;border:0px rgb(42,34,32);outline:0px;vertical-align:baseline;background-image:initial;background-position:initial;background-size:initial;background-repeat:initial;background-origin:initial;background-clip:initial;color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify">…The better their taste, the higher the chance of recursive self-improvement…<br></em><span style="color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify">AI systems are developing more of the creative intuitions which human researchers ascribe to ‘good scientific taste’, according to a new benchmark from P-Zero Research called TasteVal.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span></span><b><font face="tahoma, sans-serif"><u><span style="color:rgb(20,20,19);background-color:rgb(250,249,245)"></span></u></font></b><span style="color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify;background-color:transparent">define research taste as the ability to pick interesting problems to solve, design experiments, and interpret experimental results.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span></span></font><span style="background-color:transparent;color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify;font-size:large"><b><i>The experimental research taste of frontier models has doubled every 3.0 months since December 2025</i></b> </span><span class="gmail_default" style="background-color:transparent;color:rgb(51,51,51);text-align:justify;font-size:large;font-family:arial,helvetica,sans-serif">"</span></div><div><font size="4"><span style="color:rgb(51,51,51);font-family:"Open Sans",sans-serif;text-align:justify"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></span></font></div><font size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b>And the same day October 12 two different AI researchers at Anthropic wrote this:<span class="gmail_default" style=""> </span></b></font></div><div><br></div><div><a href="https://www.anthropic.com/research/self-replicating-ai"><font size="4" face="tahoma, sans-serif"><b>AI models may be capable of self-replicating without access to a datacenter</b></font></a></div><div><br></div><div><font size="4" face="arial, sans-serif"><i><span style="color:rgb(20,20,19);background-color:rgb(250,249,245)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span>At Anthropic,<b> coding is no longer the bottleneck to building systems or doing research</b>. Claude is able to autonomously iterate on research loops, micro-optimize complex programs, and build new services from the ground up at a speed and scale we haven’t seen before. </span><span style="background-color:rgb(250,249,245);color:rgb(20,20,19)">Our experiments suggest that small AI models may <b>be months away</b> from being capable enough to self-replicate on commercial internet-of-things (IoT) devices, like smart ovens and off-brand Android TV boxes. A replicator like this would be challenging to shut down, since there’s no centralized point to shut off—though it may be slow (with a doubling time of days). Unlike non-AI malware, it could also figure out unfamiliar devices on its own.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span></span></i></font></div><div><br></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">And t</span>hen just yesterday we got this<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">,</span> also from Anthropic:<span class="gmail_default" style=""> </span></b></font></div><div><br></div><div><a href="https://www.anthropic.com/engineering/redesigning-source-control"><font size="4" face="tahoma, sans-serif"><b>Redesigning source control at Anthropic</b></font></a></div><div><br></div><div><div><font size="4"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span>Earlier in the year, we had largely handwritten the first version of the git-to-Scion ingestion pipeline as a prototype. We thought it was good—until we got our hands on an early internal snapshot of Claude Mythos Preview. We asked it to rewrite the whole thing, and with no further instructions, it produced a version that consumed 20x less memory and was 4x faster, while preserving all of the implicit invariants around ingestion ordering and data structures.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span></i></font><b style="background-color:transparent"><u><font face="arial, sans-serif"><i><span style="color:rgb(20,20,19);font-size:17px;background-color:rgb(250,249,245)">All of the engineers who worked on this system would now rate Claude as better at </span><span style="box-sizing:inherit;color:rgb(20,20,19);font-size:17px;background-color:rgb(250,249,245)">writing</span><span style="color:rgb(20,20,19);font-size:17px;background-color:rgb(250,249,245)"> code than them.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span></span></i></font></u></b></div><div><b style="background-color:transparent"><u><font face="arial, sans-serif"><i><span style="color:rgb(20,20,19);font-size:17px;background-color:rgb(250,249,245)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></span></i></font></u></b></div><div><font color="#141413" size="4" face="tahoma, sans-serif"><b style=""><i style="">We live in interesting times.<span class="gmail_default" style=""> </span></i></b></font><b style="background-color:transparent"><u><font face="arial, sans-serif"><i><span style="color:rgb(20,20,19);font-size:17px;background-color:rgb(250,249,245)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></span></i></font></u></b></div><div><font color="#141413" size="4" face="tahoma, sans-serif"><b style=""><i style=""><span class="gmail_default" style=""><br></span></i></b></font></div><div><font color="#141413" size="4" face="tahoma, sans-serif"><b style=""><span class="gmail_default" style="">John K Clark</span></b></font></div><br class="gmail-Apple-interchange-newline"></div><div><div><b><font face="tahoma, sans-serif"><u><span style="color:rgb(20,20,19);font-size:17px;background-color:rgb(250,249,245)"><br></span></u></font></b></div><div><br></div><div><span style="color:rgb(51,51,51);font-family:"Open Sans",sans-serif;font-size:14px;text-align:justify;background-color:transparent"><br></span></div></div></div>