I insist you understand that if a device becomes selfaware, conscious, free-willed, intelligent, sapient<br>abstract-thinking, tool-using, communicating, speaking, "whatever* we may create a device that<br>*absolutely* does not wish to do other than precisely, caringly and meticulously execute its job, <br>
without selfinterest. <br><br>I do not claim such a device will do good on society automatically.<br>1 - it can be programmed to do bad; i.e. war, terrorism, insurance fraud, griefing<br>2 - it may do bad because it competes with human labor<br>
3-  it may do bad because it has intentionally hidden rules<br>4-  it may do bad because it has quirks or emergent proprties<br><br>I would add to this, in light of your statement, <br>5 - it may do bad because it prompts humans to act according to sentiments, i.e.<br>
<br>(a) people may decide to enter relationships and stop interacting with baseline humans, disrupting<br>the flow of normalcy. <br><br><div style="margin-left: 40px;">"..<i>.citizens of Sweden went out on the street in protest - or sent their androids out, protesting<br>
in their name (who'd tell the difference except most protesters were amazingly pretty)<br>as president Ahwas proposed increasing android tax to pay for a plan to start growing <br>humans in embryonic sustainers, and raise them as new voting citizens - Sweden is <br>
rapidly dropping down to 9 million, and the average age is 62..</i>."<br></div><br>(b) people may adopt these devices to execute day-to-day actions, letting go step by step, untill<br> the human decissionmaking entity withers away into an existential coma, the device takes over -<br>
enter bots that resemble a living human, "have some residual of the human in there somewhere"<br>maintaining <br><br><div style="margin-left: 40px;">"<i>the gates place by the water is creepy these days. Old bill doesnt show his face around<br>
and the word by his autorney he is in this fluid tank a lot, regrowing this or that and lets <br>business get handled by these idealized young billbots. Has been like this for years <br>really, but nobody dares ask questions because they are affraid share prices might<br>
drop</i> "<br></div><br>(c) access over bots that resemble humans, without them having rights may prompt some humans<br>to vent sadistic tendencies, physically abusing the devices, thereby cultivating behavioral pathologies, <br>
kids treating these devices with contempt, making robots dance on hot coals, screaming in simulated<br>(or real!) pain. I think this is potentially VERY bad and risky to society. Access to fembots might<br>breed a demographic of habitual rapists..... or much much worse...<br>
<br>(d) people attribute these devices qualities they don't have, weren't designed with - i.e. think they<br>have a soul and start lobbying for rights or legal recognition, thereby pushing devices into positions<br>
that are completely contrary to their core values. <br><br><br><br><br><br><div class="gmail_quote">On Tue, Jan 27, 2009 at 7:06 AM, sam micheal <span dir="ltr"><<a href="mailto:micheals@msu.edu">micheals@msu.edu</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">this may sound 'insane' but i assure you - the topic is relevant to our times.<br>
<br>
someone soon will develop a very intelligent machine (capable of general problem solving).<br>
<br>
someone (else?) soon will develop a conscious machine.<br>
<br>
they may not be the same machine.<br>
<br>
however, we must consider robot rights before either one is developed.<br>
<br>
if we do not, it is irresponsible and ignorant.<br>
<br>
i have created a website where you can "caste your vote" either way (if you think they should have rights or partial rights or no rights).<br>
<br>
the website is:   <a href="http://canonizer.com/topic.asp/94/2" target="_blank">http://canonizer.com/topic.asp/94/2</a><br>
<br>
if you disagree, click on the branch you agree with. "take a stand." "cast your vote."<br>
<br>
there are many other topics you can "vote" on with <a href="http://canonizer.com" target="_blank">canonizer.com</a><br>
<br>
register and cast your vote. whether we agree or disagree, we cannot make progress unless we "take a stand".<br><font color="#888888">
<br>
sam micheal<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</font></blockquote></div><br>