<div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:arial,sans-serif">On Mon, Jun 26, 2017  Stuart LaForge </span><span dir="ltr" style="font-family:arial,sans-serif"><<a href="mailto:avant@sollegro.com" target="_blank">avant@sollegro.com</a>></span><span style="font-family:arial,sans-serif"> wrote:</span><br></div><div class="gmail_extra"><div class="gmail_quote"><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span style="font-size:12.8px"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​> ​</div>if the NSA can't keep Stuxnet secure then how would Company X keep its AI<br></span><span style="font-size:12.8px">out of the hands of competitors and ultimately script kiddies? </span></blockquote><div><font size="4"><br></font></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><font size="4">​The NSA is at a disadvantage because the people inside that organization are no smarter than the people outside it; but that need not be the case for a AI, it could keep secrets even from the very people in Company X that built it.  </font> ​</div></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><br></div></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><span style="font-family:arial,sans-serif;font-size:12.8px"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​>​</div> it might hire </span><span style="font-family:arial,sans-serif;font-size:12.8px">humans to do busy work for Company X just to be able to have a customer </span><span style="font-family:arial,sans-serif;font-size:12.8px">base for Company X.</span></blockquote><div><br></div><div><font size="4"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​Unless the AI could find a way hide the fact that its just busy work created to make the humans feel important and give them some dignity the AI might as well just hand the humans money rather than give them a paycheck for doing a silly pointless job. ​</div> </font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"> <div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​> ​</div>Some hacker group like Anonymous might take it upon themselves to write<br>an AI that would be like Robin Hood and steal from the rich to give to the<br>poor.</blockquote><div><br></div><div><font size="4"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​The AI could only do that if it had superhuman intelligence, ​</div> <div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline">​but if that's the case then the hackers could never be confident that their goals and the AI's goals always remain in sync. ​</div></font></div><div><font size="4"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"><br></div></font></div><div><font size="4"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif;display:inline"> John K Clark</div></font></div><div><br></div><div><br></div><div><br></div></div></div></div>