<div dir="ltr">The mystical belief is to think that we are not just another type of machine. <div><br></div><div>Giovanni  </div></div><div class="gmail_extra"><br><br><div class="gmail_quote">On Tue, Apr 8, 2014 at 10:07 PM, spike <span dir="ltr"><<a href="mailto:spike66@att.net" target="_blank">spike66@att.net</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple"><div><p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><b><span style="font-size:10.0pt;font-family:"Tahoma","sans-serif"">>…</span></b><span style="font-size:10.0pt;font-family:"Tahoma","sans-serif""> <b>On Behalf Of </b>Stathis Papaioannou<br>
<b>Subject:</b> Re: [ExI] malevolent machines<u></u><u></u></span></p><p class="MsoNormal"><u></u> <u></u></p><div><p class="MsoNormal"><u></u> <u></u></p><div><p class="MsoNormal" style="margin-bottom:12.0pt"><u></u> <u></u></p>
<div><div class=""><p class="MsoNormal">On 9 April 2014 09:14, William Flynn Wallace <<a href="mailto:foozler83@gmail.com" target="_blank">foozler83@gmail.com</a>> wrote:<u></u><u></u></p></div><div><div><p class="MsoNormal" style="margin-bottom:.25in">
<span style="font-size:18.0pt;font-family:"Comic Sans MS";color:#1f497d">…</span><span style="font-size:18.0pt;font-family:"Comic Sans MS";color:#0b5394"><u></u><u></u></span></p></div><div><p class="MsoNormal">
<span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">>…</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#0b5394">Unless there is something really important that I don't know about computers</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">…<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">Bill there might be something really important that no one knows about computers.  Read on, sir.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">>…</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#0b5394">it seems to me that having a machine 'wake up' like Mike in Heinlein's The Moon is a Harsh Mistress, is just absurd</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">…<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">Plenty of people share that view, but stop short of offering any actual evidence.  We know that it hasn’t been done before, however…  read on please.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">>…</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#0b5394">It does what it is programmed to do and cannot do anything else</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">…<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">We already know ways to program software to learn.  Examples are learning checkers and chess programs.  If one wants to use one’s background computing cycles in this way, one can set the computer to play itself using two different chess programs for instance, and learn by seeing the results how to set parameters.  This would be an example of software that is programmed to learn.<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d">>…</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#0b5394"> Any other function is just some sort of mystical belief that is paradoxically held by hard scientists.  Comments?  Billw</span><span style="font-size:14.0pt;font-family:"Comic Sans MS";color:#1f497d"><u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Calibri","sans-serif";color:#1f497d">Control software can be made to be self-modifying.  It does an action, watches what happens, makes corrective action with a feedback mechanism of some sort, it experiments.  Successful algorithms spawn offspring in a process analogous to biological evolution.  What part of this seems impossible?<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Calibri","sans-serif";color:#1f497d">I can think of no fundamental reason why a mechanical device could not in principle evolve a mind of its own.  A mind is a mechanical device, and it has a mind of its own, or is a mind of its own.  If you have some new insights on this question, do share please.<span class="HOEnZb"><font color="#888888"><u></u><u></u></font></span></span></p>
<span class="HOEnZb"><font color="#888888"><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:14.0pt;font-family:"Calibri","sans-serif";color:#1f497d">spike<u></u><u></u></span></p>
<p class="MsoNormal"><span style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1f497d"><u></u> <u></u></span></p></font></span></div></div></div><p class="MsoNormal"><span style="font-size:10.0pt"><u></u> <u></u></span></p>
</div></div></div></div><br>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
<br></blockquote></div><br></div>