<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Thu, Jul 18, 2019 at 8:05 AM Dave Sill <<a href="mailto:sparge@gmail.com">sparge@gmail.com</a>> wrote:</span><br></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Unlike the human genius, the poker program can't talk or understand speech or converse in any language. It's like an idiot savant. If if could talk, it'd just say "I just pick the statistically best play".</i></div></div></div></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">People were always asking human geniuses like Einstein and Feynman how they got their ideas but they could never give satisfactory answers, if they could we'd all be as smart as they were.</font></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Machine learning isn't self-modifying code. The code never changes. The learning process builds huge tables of statistics recording the outcomes of different plays.</i></div></div></div></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"><font size="4">I don't know what you mean by that, the changes that the program made in its own code is the very thing that made it </font></font><font size="4">extraordinary; if it only used the code that the humans had written it would play lousy Poker.</font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>These AIs are learning very narrowly-defined games in very simple domains and a tiny set of well-defined rules.</i></div></div></div></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4" style=""><font face="arial, helvetica, sans-serif">I think you're whistling through the graveyard. Everyday the field of AI's expertise becomes less narrow, and the super impressive thing is we didn't teach them how to do it, they taught themselves.  </font></font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>What they do is impressive to us in the same way that a calculator is impressive to us at doing arithmetic. </i></div></div></div></blockquote><div><br></div><div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">A calculator doesn't get better at <span style="font-family:Arial,Helvetica,sans-serif">arithmetic every day and it can't teach itself things.</span></font></div></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>They don't have a strategy beyond making the play that the numbers say is the best one.</i></div></div></div></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">Call it a strategy or call it something else, whatever they're doing they're doing it better than you or I can do it.</font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span><i>Their benefit to us will not be as teachers</i></div></div></div></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">Yes.</font></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span><i>but as tools</i></div></div></div></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">Things become unstable and unpredictable when the tool becomes more intelagent than the tool user. It's called a singularity.</font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><br></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">John K Clark</font></div>
</div></div>