<div dir="ltr"><div dir="ltr">Quote:<br>AI companies are racing to build AIs that are smarter than humans in every way. In AI 2027, we predicted that this would result in either extinction or irreversible concentration of power.1<br>Plan A is our positive vision for what should happen instead.<br><br><div><<a href="https://ai-2040.com/" target="_blank">https://ai-2040.com/</a>></div><div>-----------------------------------------</div><div><br></div><div>This optimistic plan relies on the USA and China agreeing on a treaty to pause AI development before AGI is reached. </div><div>I asked Gemini AI to behave as a forecaster and discuss the feasibility of this plan.</div><div>The result was a 2.5% probability of success. </div><div>The full report of why it almost certainly won't happen is below.</div><div>BillK</div><div><br></div><div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)" class="gmail_default">Gemini 3.5 Flash Extended Thinking:</div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)" class="gmail_default"><span><span><span><div><div id="m_1312011631616931834gmail-user-query-content-0"><span><span><div role="heading" dir="ltr"><p></p></div></span><div><div></div></div></span></div></div></span></span></span><span><div><span><div><div><div><div><div></div></div></div><div><div></div></div></div><div><div><div><span></span><div></div><span style="height:auto"><div><span id="m_1312011631616931834gmail-message-content-id-r_e1b09f5ea8327ee9"><div id="m_1312011631616931834gmail-model-response-message-contentr_e1b09f5ea8327ee9" dir="ltr"><p>To evaluate the "AI 2040: Plan A" proposal published by the AI Futures Project, we must define the core target event implied by the text: <b>Will the United States and China establish and successfully enforce a verified bilateral or multilateral AI governance treaty to explicitly halt, pause, or restrict the development of frontier artificial intelligence before it reaches superintelligence (ASI) by 2035?</b></p><p>Here is the hyper-calibrated superforecasting evaluation of this target event.</p><h3>1. THE OUTSIDE VIEW (Base Rates)</h3><p>To establish a statistical baseline, we look at the <b>Reference Class</b>: <i>Bilateral or multilateral technology-limitation or arms-control treaties enacted between major adversarial superpowers targeting a highly lucrative, dual-use, rapidly advancing capability prior to a kinetic catastrophe or widespread deployment.</i></p><p>Over the past 30 years, the baseline for this type of proactive, intrusive restriction is exceptionally low:</p><ul><li><p><b>The Successes:</b> The Strategic Arms Reduction Treaties (START) and the Chemical Weapons Convention (1993) successfully limited stockpiles, but these were signed <i>after</i> decades of deployment, visible destruction, or near-miss crises (e.g., the Cuban Missile Crisis), and during a period of geopolitical convergence.</p></li><li><p><b>The Failures/Collapses:</b> More recent history shows a decay in verification frameworks. The US withdrew from the ABM Treaty and the INF Treaty. The Joint Comprehensive Plan of Action (JCPOA) collapsed due to domestic political shifting. The Comprehensive Nuclear-Test-Ban Treaty (1996) remains unratified by key nations, and the Paris Climate Accords rely on non-binding, voluntarily reported targets.</p></li></ul><p>Proactively banning an entirely new paradigm of economic and military power before its destructive capacity has been unambiguously demonstrated has almost no historical precedent.</p><ul><li><p><b>Mathematical Anchor (Base Rate):</b> <b>3% to 5%</b></p></li></ul><h3>2. THE INSIDE VIEW (Specific Dynamics)</h3><h4>THE BULL CASE (Why the plan could succeed)</h4><ul><li><p><b>The Physical Chokepoint:</b> Unlike cyber-weapons or biological agents, frontier AI requires massive physical infrastructure. Roughly 98.5% of advanced AI chips flow through an incredibly consolidated supply chain (ASML for lithography, TSMC for fabrication, NVIDIA for design). This makes hardware-level verification ("trustless chip tracking" via cryptographic firmware locks) technically feasible without requiring intrusive software inspections.</p></li><li><p><b>Mutual Threat of Sovereign Loss:</b> Unlike traditional weapons where one state wins if the other loses, a misaligned superintelligence poses an existential threat to the internal political stability of <i>both</i> regimes. The Chinese Communist Party values top-down information control above all else; an autonomous, unaligned ASI is fundamentally incompatible with their governance model.</p></li><li><p><b>Elite Alignment:</b> Elite opinion is shifting rapidly. The fact that former frontier researchers (like the authors of Plan A) and tech executives are actively warning congress indicates that the "overton window" for aggressive regulation is opening faster than historical tech cycles.</p></li></ul><h4>THE BEAR CASE (Why the plan will fail)</h4><ul><li><p><b>The Geopolitical Prisoner's Dilemma:</b> Washington and Beijing currently view AI through a zero-sum, national security lens. As noted in the Plan A text, domestic tech lobbyists aggressively push the narrative that any unilateral regulation forces the US to lose the digital Cold War to China. For China, AI represents an asymmetric opportunity to bypass US conventional military and economic superiority.</p></li><li><p><b>The Intrusiveness Threshold:</b> A "verified" slowdown requires unprecedented transparency. Even if chip tracking is used, verifying compliance would ultimately require verifying power grids, datacenter locations, and supply chains. In an era of decoupling and extreme espionage suspicion, neither nation will comfortably allow foreign oversight of its most critical national security infrastructure.</p></li><li><p><b>Trillion-Dollar Economic Momentum:</b> The capital expenditure currently flowing into AI datacenters is unprecedented. Halting capabilities progress at "top human expert level" requires governments to force corporations to walk away from trillions in projected productivity gains.</p></li></ul><h3>3. CONJUNCTIVE CHAIN CHECK</h3><p>Plan A requires a strict sequence of high-stakes, independent conditions to succeed simultaneously. If we break down the necessary chain:</p><ol start="1"><li><p><b>US Alignment:</b> The US political establishment must pivot from a "race to win" mindset to an "existential risk" framework by 2029.</p><ul><li><p><i>Estimated Probability:</i> <b>35%</b></p></li></ul></li><li><p><b>Sino-American Accord:</b> China must agree to a bilateral deal that essentially freezes their relative position or subjects their internal computing infrastructure to verifiable tracking.</p><ul><li><p><i>Estimated Probability:</i> <b>15%</b></p></li></ul></li><li><p><b>Technical Deployment:</b> Tamper-proof, hardware-level cryptographic tracking and verification mechanisms must be successfully developed and deployed globally without backdoor bypasses.</p><ul><li><p><i>Estimated Probability:</i> <b>40%</b></p></li></ul></li><li><p><b>Leakage Prevention:</b> Third-party actors, rogue states, or black-market hardware recycling clusters must be successfully contained to prevent a compliance defection loop.</p><ul><li><p><i>Estimated Probability:</i> <b>50%</b></p></li></ul></li></ol><div><div><span><span><span aria-hidden="true"><span><span style="height:0.8889em;vertical-align:-0.1944em"></span><span style="margin-right:0.0962em">J</span><span>o</span><span>in</span><span>t</span><span> </span><span style="margin-right:0.1389em">P</span><span>ro</span><span>babi</span><span style="margin-right:0.0197em">l</span><span>i</span><span>t</span><span style="margin-right:0.0359em">y</span><span style="margin-right:0.2778em"></span><span>=</span><span style="margin-right:0.2778em"></span></span><span><span style="height:0.7278em;vertical-align:-0.0833em"></span><span>0.35</span><span style="margin-right:0.2222em"></span><span>×</span><span style="margin-right:0.2222em"></span></span><span><span style="height:0.7278em;vertical-align:-0.0833em"></span><span>0.15</span><span style="margin-right:0.2222em"></span><span>×</span><span style="margin-right:0.2222em"></span></span><span><span style="height:0.7278em;vertical-align:-0.0833em"></span><span>0.40</span><span style="margin-right:0.2222em"></span><span>×</span><span style="margin-right:0.2222em"></span></span><span><span style="height:0.6444em"></span><span>0.50</span><span style="margin-right:0.2778em"></span><span>=</span><span style="margin-right:0.2778em"></span></span><span><span style="height:0.6444em"></span><span>0.0105</span></span></span></span></span></div></div><ul><li><p><b>Conjunctive Anchor:</b> <b>~1.05%</b></p></li></ul><h3>4. CALIBRATED PROBABILITY</h3><p>Combining the historical base rate, the extreme friction points of the geopolitical Prisoner's Dilemma, and the mathematical decay of the conjunctive chain, the final forecast is:</p><p><b>Final Probability Estimate: 2.5%</b></p><h4>Confidence Level & Critical Triggers</h4><p>My confidence in this low probability is high. The game-theoretic incentives for defection are too steep, and the historical precedents for proactive technological caps are too weak.</p><p>The specific data points or news events that would cause this prediction to swing by <b>more than 15%</b> include:</p><ol start="1"><li><p><b>An Unambiguous, High-Impact AI Catastrophe:</b> A major national security crisis—such as an autonomous model successfully incapacitating a nation's power grid, executing a multi-billion dollar automated financial exploit, or leaking a highly viable novel pathogen. This would shock the system, bypass the economic incentives, and force a joint US-China crisis management framework.</p></li><li><p><b>An Official Joint Superpower Communiqué:</b> A formal bilateral declaration following a US-China summit explicitly establishing a working group tasked with creating <i>binding, verifiable compute caps</i> with physical enforcement mechanisms.</p></li></ol></div></span></div></span></div></div></div></div></span></div></span></div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)" class="gmail_default">-------------------------------------------------------------</div><br></div></div>
</div>