<div dir="ltr"><br><div>Yes, I agree with Keith.</div><div><br></div><div>And It'd sure help if people who really believe this would work to build and track expert consensus around concise descriptions of the best arguments, instead of just shouting one person's opinion into the void.</div><div><br></div><div>That is what we're doing on canonizer with the "Friendly AI Importance" topic.  And as more people weigh in on this issue, the "<a href="https://canonizer.com/topic/16-Friendly-AI-Importance/9-FriendlyAIisSensible?is_tree_open=1">Friendly AI is Sensible</a>" camp continues to fall further behind the "<a href="https://canonizer.com/topic/16-Friendly-AI-Importance/3-Such-Concern-Is-Mistaken?is_tree_open=1">Such Concern Is Mistaken</a>" camp.</div><div><br></div><div>Do any of the arguments in the book come anywhere close to the arguments in the "<a href="https://canonizer.com/topic/16-Friendly-AI-Importance/2-AI-can-only-be-friendly?is_tree_open=1">AI can only be friendly</a>" camp?  Does he even address those, convincing to me, arguments anywhere in the book?</div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div><div><br></div></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Wed, May 14, 2025 at 5:51 PM Keith Henson via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">It doesn't matter.<br>
<br>
Unless technical progress is stopped we will face whatever problems AI<br>
generates (including possible extinction) sooner or later.  AI has<br>
upsides as well as downsides, It might prevent extinction if it<br>
develops sooner.<br>
<br>
In any case, you can't stop it in a world where you can run an AI on a<br>
high-end laptop.<br>
<br>
Keith<br>
<br>
Best wishes,<br>
<br>
Keith<br>
<br>
On Wed, May 14, 2025 at 3:42 PM BillK via extropy-chat<br>
<<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br>
><br>
> If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All<br>
> by Eliezer Yudkowsky (Author), Nate Soares (Author)<br>
><br>
> Comment from - Stephen Fry, actor, broadcaster, and writer -<br>
><br>
> The most important book I’ve read for years: I want to bring it to<br>
> every political and corporate leader in the world and stand over them<br>
> until they’ve read it. Yudkowsky and Soares, who have studied AI and<br>
> its possible trajectories for decades, sound a loud trumpet call to<br>
> humanity to awaken us as we sleepwalk into disaster. Their brilliant<br>
> gift for analogy, metaphor and parable clarifies for the general<br>
> reader the tangled complexities of AI engineering, cognition and<br>
> neuroscience better than any book on the subject I’ve ever read, and<br>
> I’ve waded through scores of them.<br>
> We really must rub our eyes and wake the **** up!<br>
> -----------------<br>
> Preorders here - <<a href="https://ifanyonebuildsit.com/?ref=nslmay" rel="noreferrer" target="_blank">https://ifanyonebuildsit.com/?ref=nslmay</a>><br>
><br>
> Amazon site -<br>
> <<a href="https://www.amazon.co.uk/Anyone-Builds-Everyone-Dies-All/dp/0316595640" rel="noreferrer" target="_blank">https://www.amazon.co.uk/Anyone-Builds-Everyone-Dies-All/dp/0316595640</a>><br>
> -----------------<br>
> .<br>
> _______________________________________________<br>
> extropy-chat mailing list<br>
> <a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
> <a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>