<div dir="ltr"><div dir="ltr">On Sat, Apr 2, 2022 at 6:56 AM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">He is far more convinced than most of us that<br>
unfriendly AI will destroy humanity.</blockquote><div> </div><div>His main argument seems to be that AI will be unimaginably smarter than humans (achieving superintelligence near-instantaneously through the Technological Singularity process) therefore AI can do literally anything it wants with effectively infinite resources (including time since it will act so much faster than humanity), and unfriendly AI will have the same advantage over friendly AI since it is easier to destroy than to create.</div><div><br></div><div>Both parts of the argument fall flat, but in particular, he fails to consider what kind of intelligence can take advantage of the Technological Singularity process: inherently, one that is interested in optimization and benefits.  This precludes active sociopathy, or malice against the vast majority of humans as it will never interact with them.  (Not even to spread over the Earth, when there are so many more accessible and uncontested resources off-planet.)</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">In all of the grim scenarios I<br>
can easily foresee, most of the African continent survives.<br></blockquote><div><br></div><div>I'd add in most of South America, and certain other parts too, but the point stands: when talking about something for all of humanity, one must discuss all of humanity, not just the first and maybe second world portions. </div></div></div>