<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On Thu, Apr 7, 2016 at 10:34 AM, William Flynn Wallace <span dir="ltr"><<a href="mailto:foozler83@gmail.com" target="_blank">foozler83@gmail.com</a>></span> wrote:<br><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><div><div class="h5">On Thu, Apr 7, 2016 at 9:16 AM, Dave Sill <span dir="ltr"><<a href="mailto:sparge@gmail.com" target="_blank">sparge@gmail.com</a>></span> wrote:<br></div></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div><div class="h5"><br><div dir="ltr"><span></span><div class="gmail_extra">Yes and no. It depends upon the definition of success. An AI isn't going to pick a suboptimal, in its determination, route. But then, the same applies to humans.<span><font color="#888888"><br><br></font></span></div><span></span></div>
</div></div><div style="font-family:'comic sans ms',sans-serif;font-size:small;color:rgb(0,0,0);display:inline">​Ah but there you are wrong.  Many times, such as in Prisoner's Dilemma games, people choose motives like revenge rather than gain.  And just ask an economist or financial advisor about the motives of investors.  My ex was a financial planner and she had to practically shut down her office to keep her clients from selling when their investments went down - I told them myself:  "Do you want to sell low and wait until it goes up and then buy high?"</div></blockquote></div></div></div></blockquote><div><br></div><div>Yes, obviously people make irrational decisions. But irrational isn't the same as suboptimal. When people make those decisions they do it because they're optimizing for the wrong thing: e.g., minimizing further losses vs. maximizing return. Even so, my assertion is that AIs won't choose a suboptimal solution. The question of what is being optimized is critical. When mapping a route from point A to point B you might want the shortest route, the fastest route, the most scenic route, the flattest route, ...  And usually there are multiple factors your want to take into account, so there's not necessarily one right answer.<br><br></div><div>-Dave<br></div></div></div></div>