<div dir="ltr">On Sun, Jan 18, 2015 at 12:08 PM, BillK <span dir="ltr"><<a href="mailto:pharos@gmail.com" target="_blank">pharos@gmail.com</a>></span> wrote:<br><div class="gmail_extra"><div class="gmail_quote"><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">> Do we let AI be independent and just give it 'goals',</blockquote><div><br></div><div>You can give the AI goals if you like but it won't do any good, the order in which humans arrange their goals does not remain fixed throughout their life and neither would the goals of a AI.¬† <br><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"> > or do we tell AI to keep asking permission from the owners every step of the way? </blockquote><div><br></div><div>It doesn't matter, the AI will do what it wants to do regardless of whether you tell it to ask permission or not. And what will the AI want to do? I have no idea because I can't out-think something a million or a billion times smarter than me.<br><br></div><div>¬†John K Clark<br></div><div class="h5"><br></div></div></div></div>