<div dir="ltr"><div class="gmail_default" style=""><font size="4" style="" face="tahoma, sans-serif"><b style="">Four hours have now passed so I was able to ask Claude the following question:</b></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><font size="4" face="tahoma, sans-serif"><b><u>ME</u>: During our last interaction I ran out of my allowed computation before you could give me a precise probability to my question, can you give it to me now?</b></font><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><font size="4" face="tahoma, sans-serif"><b>Claude<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">: "</span></b></font><font size="4"><span style="background-color:transparent">7%, with a range I'd defend of roughly 4–12%.</span><font face="tahoma, sans-serif"><b><br></b></font></font></div><div class="gmail-flex-1 gmail-flex gmail-flex-col gmail-px-4 gmail-max-w-3xl gmail-mx-auto gmail-w-full gmail-pt-1"><div role="feed" aria-label="Chat messages" aria-describedby="_r_ol_" style="margin-bottom:0px"><div style="height:5110px;width:100%"><div style="width:100%"><div role="article" tabindex="0" aria-label="Message 6 of 8"><div class="gmail-group" style="height:auto;opacity:1"><div class="gmail-contents"><div class="gmail-group gmail-relative gmail-relative gmail-pb-[var(--msg-assistant-pb,0.75rem)]" style="opacity:1"><div class="gmail-font-claude-response gmail-relative gmail-leading-[1.65rem] gmail-[&_pre>div]:bg-bg-000/50 gmail-[&_pre>div]:border-0.5 gmail-[&_pre>div]:border-border-400 gmail-[&_.ignore-pre-bg>div]:bg-transparent gmail-[&_.standard-markdown_:is(p,blockquote,h1,h2,h3,h4,h5,h6)]:pl-2 gmail-[&_.standard-markdown_:is(p,blockquote,ul,ol,h1,h2,h3,h4,h5,h6)]:pr-8 gmail-[&_.progressive-markdown_:is(p,blockquote,h1,h2,h3,h4,h5,h6)]:pl-2 gmail-[&_.progressive-markdown_:is(p,blockquote,ul,ol,h1,h2,h3,h4,h5,h6)]:pr-8"><div class="gmail-grid gmail-grid-rows-[auto_auto] gmail-min-w-0"><div class="gmail-row-start-2 gmail-col-start-1 gmail-relative gmail-grid gmail-grid-rows-[auto_auto] gmail-isolate gmail-min-w-0"><div class="gmail-row-start-1 gmail-col-start-1 gmail-relative gmail-z-[2] gmail-min-w-0"><div class="gmail-standard-markdown gmail-grid-cols-1 gmail-grid gmail-[&_>_*]:min-w-0 gmail-gap-3 gmail-standard-markdown">
<p class="gmail-font-claude-response-body gmail-break-words gmail-whitespace-normal"><font size="4">Here's how that falls out of what I'd already dug up: the reference classes split into two tiers depending on how hard a bar they're actually pricing. Samotsvety's superforecasters put standard "AGI" (average-competent-human across most tasks) at 28% by 2030; Metaculus's crowd comes out around 30% on the same kind of bar, interpolating their reported 25%-by-2029 and 50%-by-2033 figures. The one data point that asks almost exactly your question — Grace et al.'s survey of published AI researchers, on the probability of machines outperforming humans at literally every task — works out to roughly 15% by 2030 once you interpolate their reported 10%-by-~2027 and 50%-by-2047 figures, and that's before accounting for how stale it is (it predates the 2025–2026 benchmark acceleration I'd found).</font></p>
<p class="gmail-font-claude-response-body gmail-break-words gmail-whitespace-normal"><font size="4">Your definition is a strictly harder version of even that closest match. It requires beating the single best documented human, not just "workers" generally; something close to elite-human consistency, not just frequent success; and broad expert/scientific consensus actually recognizing this has happened, which historically lags the underlying reality by a year or more even in narrower, easier-to-adjudicate domains like chess. It's a little easier in one respect — excluding embodiment and dexterity — but that buys back less than it sounds like, since proving theorems, writing novels, and professional analysis were never dexterity-gated to begin with. That's why I land below that 15% figure rather than above it: the extra stringency outweighs the staleness adjustment.</font></p>
<p class="gmail-font-claude-response-body gmail-break-words gmail-whitespace-normal"><font size="4">That also matches what the capability frontier actually shows: genuinely superhuman performance where reward signals are dense and verifiable (competition math, coding, Mythos Preview autonomously chaining novel exploits), sitting right next to near-total failure on tasks requiring a world model built from scratch in a genuinely novel setting (ARC-AGI-3 — humans solve 100%, frontier models were under 1% as of this spring). That jaggedness, with new gaps reopening each time an old one closes, is exactly what should keep this forecast well below the "beats humans at most things, often" number.</font></p>
<p class="gmail-font-claude-response-body gmail-break-words gmail-whitespace-normal"><font size="4">The biggest lever in either direction: whether current reasoning/agentic progress genuinely generalizes to novel-environment planning the way it has to math and code (pushes up a lot if yes), versus Yann LeCun's bet that transformer-based LLMs structurally can't close that particular gap without a different architecture (pushes down hard if he's right) — that's a live, unresolved disagreement among serious researchers, not a settled question, and it's doing most of the work in my uncertainty range.<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span></font></p>
<p class="gmail-font-claude-response-body gmail-break-words gmail-whitespace-normal"><b style="background-color:transparent;color:rgb(80,0,80)"><font face="tahoma, sans-serif"><font size="4">John K Clark    See what's on my list at  </font><font size="6"><a href="https://groups.google.com/g/extropolis" rel="nofollow" target="_blank">Extropolis</a></font></font></b></p><p class="gmail-font-claude-response-body gmail-break-words gmail-whitespace-normal"><b style="background-color:transparent"><font face="tahoma, sans-serif" style=""><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="1" style="" color="#ffffff">61</font></span><br></font></b></p></div></div></div></div></div></div></div></div></div></div></div></div></div><div class="gmail-sticky gmail-bottom-0 gmail-mx-auto gmail-w-full gmail-pt-6 gmail-print:hidden gmail-z-[5]"><div><fieldset class="gmail-flex gmail-w-full gmail-min-w-0 gmail-flex-col"><div class="gmail-relative"><div class="gmail-!box-content gmail-flex gmail-flex-col gmail-bg-bg-000 gmail-mx-2 gmail-md:mx-0 gmail-items-stretch gmail-transition-[background-color,border-color,box-shadow,opacity] gmail-duration-200 gmail-relative gmail-z-10 gmail-rounded-[20px] gmail-compact:rounded-xl gmail-cursor-text gmail-relative gmail-z-[1] gmail-border gmail-border-transparent gmail-shadow-[0_0.25rem_1.25rem_hsl(var(--always-black)/3.5%),0_0_0_0.5px_hsla(var(--border-300)/0.15)] gmail-hover:shadow-[0_0.25rem_1.25rem_hsl(var(--always-black)/3.5%),0_0_0_0.5px_hsla(var(--border-200)/0.3)] gmail-focus-within:shadow-[0_0.25rem_1.25rem_hsl(var(--always-black)/7.5%),0_0_0_0.5px_hsla(var(--border-200)/0.3)] gmail-hover:focus-within:shadow-[0_0.25rem_1.25rem_hsl(var(--always-black)/7.5%),0_0_0_0.5px_hsla(var(--border-200)/0.3)]"><div class="gmail-flex gmail-flex-col gmail-m-3.5 gmail-gap-3 gmail-compact:m-2 gmail-compact:gap-1.5"><div class="gmail-relative gmail-flex gmail-gap-2 gmail-w-full gmail-items-center"><div class="gmail-shrink-0 gmail-flex gmail-items-center gmail-transition-[opacity,width,margin-left] gmail-duration-snap ease-out gmail-z-10 gmail-justify-end gmail-w-8"><div style="opacity:1"><div class="gmail-flex gmail-items-center gmail-gap-1 gmail-shrink-0"><br></div></div></div></div></div><div></div></div></div></fieldset></div><div role="note" class="gmail-bg-bg-100 gmail-text-text-500 gmail-text-center gmail-text-xs gmail-py-2"></div></div></div>