<div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)"><b>billk wrote:  </b><span style="font-size:19.2px;font-family:arial,sans-serif;color:rgb(34,34,34)"> </span><span style="font-size:19.2px;font-family:arial,sans-serif;color:rgb(34,34,34)">the problem</span></div><span style="font-size:19.2px">arises as to whether they have the right to demand the same civil</span><br style="font-size:19.2px"><span style="font-size:19.2px">rights as humans.</span><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">​-----------</div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">First, which ones do we have?  The USA has a list; so does the UN.  The US one is law; the UN one is hopeful.  In the USA a right not to testify against oneself (the 5th amendment) exists for humans.  Do we really want that to apply to our computer friends?</div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">In fact, I'd say that the less said about rights, the better.  Don't want to give them ideas above their station!  (I.E - give them an inch...........)</div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">Interesting parallel:  Terry Pratchett's golems - they were property before Pratchett wrote them into owning themselves, and so had some rights.  But doesn't this open the Pandora's box and let loose blackmail?  (the golems were more powerful than anything)</div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">All AIs should have a circuit overriding any other one that shuts it down by human control.  But how to make it unhackable?  That is, by the AI itself - or herself.  Or...</div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">bill w</div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)"><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;font-size:small;color:rgb(0,0,0)">​</div><br></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Tue, Aug 22, 2017 at 9:42 AM, BillK <span dir="ltr"><<a href="mailto:pharos@gmail.com" target="_blank">pharos@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Several thoughts....<br>
<br>
When AI reaches human-level intelligence (not necessarily genius-level<br>
as there are many humans below average intelligence) the problem<br>
arises as to whether they have the right to demand the same civil<br>
rights as humans.<br>
<br>
Do AIs need a robot body? Or is a static computer enough?<br>
The problem being that they could copy themselves to millions of<br>
computers and create millions of citizens.<br>
<br>
Would they be allowed to vote in elections?<br>
(Obviously any intelligent AI would vote for Trump),  ;)<br>
<br>
Would an AI be allowed to stand for election?<br>
Problem - would all the AI citizens automatically vote for the AI?<br>
<br>
When the AI reaches more-than-human intelligence it might be tempted<br>
to abolish elections because the AI could run things far better. But<br>
if it does this the AI would need to be prepared for some opposition<br>
from humans. A better method for superhuman AI might be to allow<br>
humans to continue to play with their elections and just route all the<br>
important decisions around them in the background.<br>
<br>
Could be interesting........<br>
<span class="HOEnZb"><font color="#888888"><br>
<br>
BillK<br>
______________________________<wbr>_________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/<wbr>mailman/listinfo.cgi/extropy-<wbr>chat</a><br>
</font></span></blockquote></div><br></div>