<div style="font-family: Arial,sans-serif; font-size: 14px;"><br></div>On Tuesday, 23 June 2026 at 11:31, John Clark <johnkclark@gmail.com> wrote:<br>
        <div style="font-family: Arial,sans-serif; font-size: 14px;"><div class="protonmail_quote"><blockquote class="protonmail_quote" type="cite">
            <div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family: arial,helvetica,sans-serif;"><span style="font-family: Arial,Helvetica,sans-serif; background-color: transparent;">On Thu, Jun 18, 2026 at 3:11 PM Ben Zaiboc via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer nofollow noopener">extropy-chat@lists.extropy.org</a>> wrote:</span></div></div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin: 0px 0px 0px 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;"><font size="4" face="georgia, serif"><i>
<span class="gmail_default" style="font-family: arial,helvetica,sans-serif;">> </span>I think that by now we can rule out a 'singleton' scenario, there are too many AI models around, all over the world,</i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I don't think th<span class="gmail_default" style="">at</span> c<span class="gmail_default" style="">an</span> be ruled out.</b><span class="gmail_default" style=""><b style=""> Yes today there are a bunch of AI models that have approximately the same amount of intelligence, but once iterated self-improvement kicks into high gear then an AI that is even a little bit smarter than the others will start to pull away from everything else, and the intelligence gap will not only increase the gap will accelerate. That's why I think it's important that the AI that wins the race does not come from an authoritarian dictatorship, like the one we see in China. Yes thanks to He Who Must Not Be Named the US is headed toward the Chinese (and Russian) form of government, but it's not there yet.<br></b></span></font></div><div><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style=""><b style=""><br></b></span></font></div><div><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style=""><span style="">OK, maybe not totally ruled out, but I think it's highly unlikely that a single model under the control of a single government will obtain such a big lead over all the others that it can't be stopped from taking everything over. Knowledge of these systems is too widely distributed now.</span></span></font><span style="font-size: 10.5pt; line-height: normal;"></span> <br></div><div><br><br><br><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style=""></span></font></div></div></div></blockquote><blockquote class="protonmail_quote" type="cite"><div dir="ltr"><div class="gmail_quote gmail_quote_container"><div><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style="">  </span> </font></div><div><div class="gmail_default" style=""><font face="tahoma, sans-serif"> </font></div></div><blockquote class="gmail_quote" style="margin: 0px 0px 0px 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;"><font size="4" face="georgia, serif"><i style=""><span class="gmail_default" style="">> </span>controlled and operated by too many groups</i>,</font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>But not controlled<span class="gmail_default" style=""> </span>by groups of human beings<span class="gmail_default" style="">, they may or may not still exist I don't know, but they will certainly no longer be the ones that make the big decisions in world affairs.<br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style=""><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style="">I'm not sure what you mean by this.<br><br></span><b><span class="gmail_default" style=""> </span> </b></font></div><br><blockquote class="gmail_quote" style="margin: 0px 0px 0px 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;"><font size="4" face="georgia, serif"><i>
<span class="gmail_default" style="font-family: arial,helvetica,sans-serif;">> </span>It's obvious to us here which of those options are 'best case' for us (mostly libertarian-leaning secular westerners), but some of them are similarly 'best-case' for other cultures and other world-views. I know it's difficult for us to understand, but there are people who genuinely think that the highest good is subservience to the state, or adherence to some religious system or other, etc.<br></i></font></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>I wish that wasn't true but it is.<span class="gmail_default" style=""> </span> </b></font></div><div><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="">John K Clark<br><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style="font-size: 12pt; line-height: normal;">===</span><span class="gmail_default" style=""><br></span><span class="gmail_default" style="font-size: 12pt; line-height: normal;">Ben</span><b><span class="gmail_default" style=""><br></span></b></font></div><div><br></div><div><br></div><blockquote class="gmail_quote" style="margin: 0px 0px 0px 0.8ex; border-left: 1px solid rgb(204, 204, 204); padding-left: 1ex;"><br>
</blockquote></div></div>

        </blockquote><br>
    </div></div>