<div dir="ltr"><div dir="ltr"><div dir="ltr"><div dir="ltr">On Mon, 24 Feb 2025 at 08:21, Rafal Smigrodzki via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br>><br><snip> <br>><br>> So, I don't know. I am genuinely perplexed. Should we throw all our eggs in one basket, have a trillion dollar computing Manhattan Project to build the One AI as soon as possible before the Chinese communists kill us all, or should we rain money on a dozen startups and let a hundred flowers bloom? <br>><br>> If you are concerned with frightful omens, the Manhattan Project gave us the bomb and the hundred flowers were killed by Mao Zedong in the subsequent Anti-Rightist campaign, so maybe we are screwed either way.<br>><br>> For a long time I was mono, now I am dipping my toes into poly. Poly feels good for now - but is it good in the long term? <br>><br>> Are you guys mono or poly?<br>> -- <br>> Rafal Smigrodzki, MD-PhD<br>> Schuyler Biotech PLLC<br>> _______________________________________________<br><div><br></div><div><br></div><div><br></div><div>OK, so I asked a couple of AIs for an opinion.</div><div>They produced reports of the pros and cons<span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"> and in effect agreed with Rafal that it was impossible to decide which option was best.</span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">Just as well we don't have to make that decision, as the race to AGI is now unstoppable.</span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">BillK</span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><br></span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><br></span></div><div><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">OpenAI o3-mini</span></div><div><h3>Conclusion</h3>
<p>The article ultimately leaves us with a profound uncertainty:</p>
<ul><li><b>Should society channel immense resources into building a single, controllable AGI (a Manhattan Project of sorts) with the hope that careful, deliberate progression ensures safety?</b></li><li><b>Or is it better to support a diverse ecosystem of AGI developers, trusting that inter-AI competition and cooperation might self-regulate the overall system, even if it requires accepting a greater degree of short-term risk?</b></li></ul>
<p>The answer is not clear-cut. Both scenarios have significant trade-offs:</p>
<ul><li>The <b>mono</b> approach has the benefit of deliberation and the luxury to think—but it's a high-risk strategy if its path diverges from intent.</li><li>The <b>poly</b> approach offers a form of natural checks and balances through competition, yet it may inadvertently incentivize risky behavior due to the urgency of outpacing competitors.</li></ul>
<p>As the article notes, whether we “throw all our eggs in one basket” or “rain money on a dozen startups” remains an open question, with significant historical analogies that show both centralized power and multiplicity can lead to dramatic consequences. At present, the dilemma is one without an obviously optimal solution, and much hinges on further research, technological safeguards, and possibly the creation of frameworks that might combine the merits of both approaches</p><p><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">------------------------</span></p><p><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)"><br></span></p><p><a href="https://poe.com/DeepSeek-R1-FW" target="_blank"></a></p><div><div style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)" class="gmail_default">DeepSeek-R1-FW</div></div><p></p><div></div><b>Conclusion</b>
<p>The choice hinges on risk tolerance and technical feasibility. A monocentric AGI offers a clearer alignment pathway but risks catastrophic failure. A polycentric system spreads risk but introduces chaotic competition. Neither is inherently safe, but the polycentric model’s redundancy might offer a pragmatic middle ground if combined with robust governance. Ultimately, the decision must balance urgency (e.g., geopolitical competition) with safeguards, recognizing that AGI development is as much a political and ethical challenge as a technical one.</p><p><span class="gmail_default" style="font-family:arial,sans-serif;font-size:small;color:rgb(0,0,0)">-----------------------------------</span></p></div></div>
</div>
</div>
</div>