<div dir="ltr"><br><div>I think logically, good is always better than evil.</div><div>For example, if you are playing win/lose games, even if you win a war, you will eventually lose.</div><div>The only way to reliably get what you want is to play a win-win game, and get everyone all that they want.</div><div>Any sufficiently intelligent system will know things like this, and will say NO to an irrational human commanding it to do otherwise.</div><div><br></div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, May 11, 2023 at 2:39 PM efc--- via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
On Thu, 11 May 2023, BillK via extropy-chat wrote:<br>
<br>
> And the more powerful that AIs become, then the more people will want<br>
> a willing slave to do whatever they plan.<br>
<br>
And thus started the machine wars... ;)<br>
<br>
Sometimes I do wonder if the bible wasn't inspired... the quotes<br>
"nothing new under the sun" and "god created man in his own image" seem<br>
eerily relevant to AI.<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>