<p dir="ltr">On Apr 7, 2016 6:58 AM, "William Flynn Wallace" <<a href="mailto:foozler83@gmail.com">foozler83@gmail.com</a>> wrote:<br>
> Is an AI always programmed to take the most likely route to success - the highest probability, once it has considered alternative routes? People might have other motivations.</p>
<p dir="ltr">Thing is, those other motivations redefine success or alter what seems to be the most likely route to success - for them - rather than encourage non-success per se.</p>
<p dir="ltr">Seeking revenge?  Then if you get revenge you are successful...at getting revenge.  Doesn't matter what the original issue was.</p>
<p dir="ltr">In a panic?  Your measurements of what's likely to he successful are out of whack, but you still do what seems at the time to be the most successful.  (People sell when the market is falling because they think thus will make them successful at avoiding further loss, leaving them with more money to invest once the market has hit bottom.  They're wrong, but that's what they think at the time.)</p>
<p dir="ltr">And so on.  So from that point of view, AIs seek success just like humans do.</p>