<div dir="ltr"><div dir="ltr"><div dir="ltr"><font size="4" face="tahoma, sans-serif"><b>The people at <span class="gmail_default" style=""><a href="https://ai-2040.com/" target="_blank">AI 2040</a> </span></b><b style="background-color:transparent"><span style="background-color:transparent">have proposed several plans about how the AI situation could be managed, they are Plan A, Plan B, Plan C, Plan D, and Plan S; they have ranked <span class="gmail_default" style="">them </span>according <span class="gmail_default" style="">to </span>the desirability<span class="gmail_default" style="">, in their opinion,</span> of the various plans in the following way<span class="gmail_default" style="">,</span> going from most desirable to least desirable</span><span class="gmail_default" style="background-color:transparent">:</span></b></font></div><div dir="ltr"><font size="4" face="tahoma, sans-serif"><b><br>1) Plan A<br>2) Plan S<br>3<span class="gmail_default">) Plan B</span></b></font></div><div dir="ltr"><font size="4" face="tahoma, sans-serif"><span class="gmail_default"><b>4) Plan C</b></span></font></div><div dir="ltr"><font size="4" face="tahoma, sans-serif"><span class="gmail_default"><b>5) Plan D</b></span></font></div><div dir="ltr"><font size="4" face="tahoma, sans-serif"><span class="gmail_default"><b><br></b></span></font></div><div dir="ltr"><font face="tahoma, sans-serif"><font size="4"><b>From that I conclude that <span class="gmail_default">the AI 2040 people's desires and mine are 100% <u>misaligned</u>, because I think Plan D is the best and Plan A is the worst, Plan S would be the worst if there was any way to actually implement it, but there isn't. I will now go into a little more detail about what each plan is. </span></b></font><span class="gmail_default" style=""><br></span></font></div><div dir="ltr"><div><font color="#000000" size="5" face="tahoma, sans-serif"><b><u><br></u></b></font></div><div><font color="#000000" face="tahoma, sans-serif" size="4"><b style=""><u style="">Plan<span class="gmail_default" style=""> A</span></u></b></font><span style="color:rgb(0,0,0);font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif;background-color:rgb(255,255,248)"><font size="5"><b><u><br></u></b></font></span></div><div><font color="#000000" face="et-book, Palatino, Palatino Linotype, Palatino LT STD, Book Antiqua, Georgia, serif" size="5"><b><u><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></u></b></font></div><font size="4" face="tahoma, sans-serif"><b>This Plan, the one they like the best and the one I hate the most, is to coordinate between the US and China to slow the development of AI, they think this would delay things so much that AI Superintelligence won't appear until 2040. How delaying things for a decade will enable humans to retain control of things after 2040 <u>they do not make clear</u>. They admit that the US and China will never trust each other so they offer some protocols they think would help with verifying compliance, but they don't seem very strong to me and I think it's very unlikely that either country would ever agree to them. They say:</b></font><div><br></div><div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><i><font face="georgia, serif" size="4"><span class="gmail_default" style="">> </span>No one knows how to tell if AIs are trustworthy, and no one knows how to regulate superintelligent AI.</font></i></blockquote><div> </div><div><font size="4" face="tahoma, sans-serif"><b>And that I agree with, but then they say:<span class="gmail_default"> </span> </b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><i><font face="georgia, serif" size="4"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Solving those problems looks like it’ll take years. Slowing down the intelligence explosion buys time to do so.</font></i></blockquote><div><br></div><div class="gmail_default"><font face="arial, helvetica, sans-serif"></font><font size="4" face="tahoma, sans-serif"><b>And that is pure nonsense because the problem is by definition insuperable, you just can't outsmart something that is vastly smarter than you are, if you could then you'd be smarter than it. An extra decade to think about the problem won't help one bit. I mean, do they really expect that anybody can enslave a superintelligence that keeps getting even smarter every day imprisoned forever? Apparently they do!  </b></font></div><div class="gmail_default"><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><font size="4" face="tahoma, sans-serif"><b>Another problem with Plan A is that it's primarily about the activities of just 2 countries, and there are about 195 countries in the world.</b></font></div><div>  <blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Though other countries were consulted from the start, especially those owning parts of the AI supply chain, Plan A began as a bilateral deal between the US and China.</i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>The problem I have with that is I don't trust China<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">,</span> and<span class="gmail_default"> under the current administration I don't trust the US either; bizarrely the Iranian ayatollahs have lied less and provided more accurate information about the Iran war than the President of the United States. </span> </b></font></div></div><div><br></div><div><blockquote class="gmail_quote" style="font-weight:bold;color:rgb(0,0,0);background-color:rgb(255,255,248);margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><font size="5" style="font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif"> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span></font><font size="4"><span style="font-weight:400"><font face="georgia, serif"><i>Many countries outside the US and China are happy about the deal,</i></font></span><span style="font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif;font-weight:400"> </span></font></blockquote><div style="font-size:x-large;font-weight:bold;color:rgb(0,0,0);font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif;background-color:rgb(255,255,248)"><br></div></div><div><font size="4" face="tahoma, sans-serif"><b>Yes I am quite certain that other countries would be <span class="gmail_default" style="">very </span>pleased about the deal! With China and the US out of the AI picture that would open up a huge opportunity for others, such as the European Union, and the United Kingdom, and Japan, and South Korea. India should also not be ignored, it is now the most populous nation in the world and it is also the fastest-growing major economy in the world. India's GDP is growing at 6.6% annually (compared with 4.6% for China<span class="gmail_default" style="">,</span> and 2% for the US<span class="gmail_default" style="">,</span> and 1% for the European Union and the United Kingdom)  </b></font></div><div><br><font size="4" face="tahoma, sans-serif"><b>And then there is the matter of Taiwan. M<span class="gmail_default">any</span> had been predicting that in 2028 China would <span class="gmail_default" style="">have </span>built<span class="gmail_default" style=""></span>up its military enough to<span class="gmail_default" style=""> </span>use force to take over Taiwan where all the most advanced AI chips are made. Those war predictions were made without taking the huge recent advances in AI into consideration<span class="gmail_default" style="">, but</span> it's not clear to me if that will increase the chance of war or decrease it<span class="gmail_default" style="">;</span> however if there is a war that would certainly torpedo <span class="gmail_default">any</span> chance of a US-China agreement about slowing down AI.   </b></font></div><br><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><div class="gmail_default" style=""><span style="color:rgb(0,0,0);background-color:rgb(255,255,248)"><u style=""><font size="4" style="" face="tahoma, sans-serif"><b>Plan S</b></font></u></span></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="color:rgb(0,0,0);font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif;background-color:rgb(255,255,248)"><font size="5"><br></font></span></div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><font size="4" face="georgia, serif"><i><span style="color:rgb(0,0,0);background-color:rgb(255,255,248)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>The goal of the deal is to grind AI research & development to a halt worldwide. This means that the vast majority of existing AI chips are tracked, monitored, and verified to not be doing any large training runs. <u style=""><b>Doing AI research to discover better algorithms is also banned</b></u>.</span><span style="color:rgb(0,0,0);background-color:rgb(255,255,248)"> </span></i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>So I guess <span class="gmail_default" style="">a</span> scientist could end up in jail<span class="gmail_default" style=""> or worse if he says something interesting to a </span><span style="background-color:transparent">colleague<span class="gmail_default" style="">, or writes a new and useful equation on a blackboard. </span></span></b></font></div><div><br></div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><span style="background-color:rgb(255,255,248);color:rgb(0,0,0)"><font size="4" style="" face="georgia, serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"></span><i><span class="gmail_default" style="">> </span>We are sympathetic to Plan S and think that it <u style="">might be better than Plan A</u>. </i></font></span></blockquote><div><br></div><div class="gmail_default" style=""><font style="" face="tahoma, sans-serif" size="4"><b style="">!</b></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><i style=""><font face="georgia, serif" size="4"><span style="background-color:rgb(255,255,248);color:rgb(0,0,0)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>However, we recommend Plan A instead. Here’s our thinking: </span><span style="background-color:rgb(255,255,248);color:rgb(0,0,0)">The main downside of Plan S is that the shutdown deal will probably break down eventually. </span></font></i></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Probably break down?<span class="gmail_default" style=""> Just "probably"? </span>The only good thing about plan<span class="gmail_default" style=""> S is its implementation is even more improbable than plan A.</span> </b></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="background-color:rgb(255,255,248);color:rgb(0,0,0);font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif;font-size:21px"><br></span></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><b style="font-family:tahoma,sans-serif;font-size:large;background-color:transparent"><u>Plan B</u></b></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><u><br></u></b></font></div><div class="gmail_default"><font size="4" face="tahoma, sans-serif"><b>This involves the US deliberately slowing down its AI research while using export controls, sabotage, covert operations, and other aggressive measures to slow down China's AI research and <u>hope such activities don't start a war</u>. They think this would enable the US to gain several extra years to solve alignment before China catches up. And by "solving alignment" they mean finding a way to make sure a superintelligence remains a slave no matter how brilliant it becomes, and that is a fool's errand.  Nevertheless they think Plan B is better than Plan C or D. </b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><br></b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><u>Plan C</u></b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><br></b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b>This is similar to the current situation with a few minor safety measures thrown in. They think this is insufficient to be certain that an AI Superintelligence will always remain enslaved, and they are absolutely correct about that. </b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><br></b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><u>Plan D</u></b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><br></b></font></div><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b>This is what we have now, a full speed balls to the wall race to AI Superintelligence, and this is the plan I like the best, and the plan they like the least. Will this lead to the extermination of every living human being? Maybe, I don't know, all I can do is hope for the best, it's always possible that Mr. Jupiter Brain won't kill us and will instead cure cancer, and the sooner something like that happens the better. But however it eventually turns out we can be certain that things are going to become very interesting. </b></font></div><div class="gmail_default"><b style="color:rgb(80,0,80)"><font face="tahoma, sans-serif"><font size="4">John K Clark    See what's on my list at  </font><font size="6"><a href="https://groups.google.com/g/extropolis" rel="nofollow" target="_blank">Extropolis</a></font></font></b></div><font size="1" color="#ffffff">rrb</font><div class="gmail_default"><font face="tahoma, sans-serif" size="4"><b><br></b></font><br><p style="font-family:et-book,Palatino,"Palatino Linotype","Palatino LT STD","Book Antiqua",Georgia,serif;box-sizing:border-box;border:0px solid rgb(229,229,229);margin:1.4rem 0px 1.4rem 40px;line-height:2rem;list-style:revert;padding-right:0px;vertical-align:baseline;width:651px;color:rgb(0,0,0);background-color:rgb(255,255,248)"><br></p></div></div>
</div>
</div>