<div dir="ltr"><div dir="ltr">On Wed, Mar 29, 2023 at 6:41 PM Gordon Swobe via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">If intelligence says that a country outside the agreement is building a GPU cluster, be less scared of a shooting conflict between nations than of the moratorium being violated; be willing to destroy a rogue datacenter by airstrike."<br>-Eliezer Yudkowsky</div></blockquote><div><br></div><div>While I will give him credit for at least seriously addressing why this wouldn't simply be an open gift to China et al, I also note that such measures are going to get this proposal laughed out of any room that could make it happen.</div><div><br></div><div>The threat, if it exists*, has not been proven - in terms that most members of Congress would understand - to anywhere near the degree that would justify these actions.  Without that proof, this ban ain't happening.<br><br>The challenge is getting Eliezer et al to understand that, so they can try to restate the threat using facts and logic that Congress will understand.  For example, they pretty much take it as self-evident that runaway AI will not happen, at least not any time soon, so any proof that assumes runaway AI in the near future (such as the six months of the proposed ban) must be discarded.  That appears to be most of their proofs.  Declaring that this is "too difficult" is giving up on making the ban actually happen, making all their yelling, screaming, and panic a pointless waste.</div><div><br></div><div>* Personally, I side with Congress here in doubting the near-term potential for runaway AI.  I am willing to be proven wrong, but more importantly, I'd prefer that those who perceive a threat not utterly waste their efforts, in case they are right.  Calling for a ban - which would presumably require Congress to issue one - without proving to Congress that there is a threat is utterly wasted effort.</div></div></div>