<div dir="ltr"><div class="gmail_default" style="font-family:comic sans ms,sans-serif;font-size:small;color:#000000"><br></div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, May 26, 2016 at 10:18 AM, BillK <span dir="ltr"><<a href="mailto:pharos@gmail.com" target="_blank">pharos@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><<a href="http://www.smbc-comics.com/index.php?id=4122" rel="noreferrer" target="_blank">http://www.smbc-comics.com/index.php?id=4122</a>><br>
<br>
Serious point though.<br>
If we teach AI about ethical behaviour (for our own safety) what do we<br>
expect the AI to do when it sees humans behaving unethically (to a<br>
greater or lesser extent)?<br>
<br>
Can a totally ethical AI even operate successfully among humans?<br>
<span class="HOEnZb"><font color="#888888"><br>
BillK<br></font></span></blockquote><div><br></div><div><div class="gmail_default" style="font-family:'comic sans ms',sans-serif;font-size:small;color:rgb(0,0,0);display:inline">​Would you write a code for an AI that told it to compare humans and AIs?  Do you really want to confuse it?  Put an AI in charge of censorship and there goes civilization as we know it.</div></div><div><div class="gmail_default" style="font-family:'comic sans ms',sans-serif;font-size:small;color:rgb(0,0,0);display:inline"><br></div></div><div><div class="gmail_default" style="font-family:'comic sans ms',sans-serif;font-size:small;color:rgb(0,0,0);display:inline">Of course I do not know the extent to which an AI can do or be programmed to do, independent thinking, so maybe you will inform me.</div></div><div><div class="gmail_default" style="font-family:'comic sans ms',sans-serif;font-size:small;color:rgb(0,0,0);display:inline"><br></div></div><div><div class="gmail_default" style="font-family:'comic sans ms',sans-serif;font-size:small;color:rgb(0,0,0);display:inline">bill w​</div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="HOEnZb"><font color="#888888">
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</font></span></blockquote></div><br></div></div>