<div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><div class="gmail_extra"><div class="gmail_quote">On Sun, Feb 28, 2016 at 4:26 AM, Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote:</div><div class="gmail_quote">
<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​> ​</div>the general point still stands: despite the halting theorem it is quite possible to detect large categories of infinite loops automatically</blockquote><div><br></div><div><font size="4"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​You can detect that you're in a loop provided the loop is not larger than the memory you have available, but there is no way you can tell you're in the sort of situation Turing was talking about which is more of an infinite maze than a infinite loop because it never repeats and yet you still never get anywhere.  ​</div> </font></div><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​> ​</div>Now, in AI we do not usually want the agent to halt (for a question-answer system this is the goal, but not for a robot).</blockquote><div><br></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif">​<font size="4">You want the robot to put the ketchup in the bottle before it puts the cap on, and if it falls into a infinite maze contemplating how best to put the ketchup in the bottle the cap will never be put on.​</font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">I maintain that any AI, or any mind of any sort, that has a fixed unalterable goal is doomed to failure. </font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><br></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"> John K Clark</font></div><br></div><div> </div></div></div></div>