<div dir="ltr"><div dir="ltr">On Wed, Jul 17, 2019 at 8:17 PM William Flynn Wallace <<a href="mailto:foozler83@gmail.com">foozler83@gmail.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;color:rgb(0,0,0)"><span class="gmail-m_-8041635463200587797gmail-im" style="color:rgb(80,0,80);font-family:Arial,Helvetica,sans-serif"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;color:rgb(0,0,0)"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>Can we learn<span class="gmail_default" style="font-family:arial,helvetica,sans-serif"> </span>what it learned? </div></div></blockquote><div> </div></span><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif">Not really, the program can't tell us why it's so good at what it does for the same reason a human genius can't tell us why he's so good at what he does, neither of them knows.</div><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif"><br></div><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif"> John K Clark</div></div></div></blockquote><div><br></div><div>Unlike the human genius, the poker program can't talk or understand speech or converse in any language. It's like an idiot savant. If if could talk, it'd just say "I just pick the statistically best play".</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;color:rgb(0,0,0)"><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif">It's right there in the code, isn't it?  But can't someone tell what changes have been made from the original code, which was written by humans?</div></div></div></blockquote><div><br></div><div>Machine learning isn't self-modifying code. The code never changes. The learning process builds huge tables of statistics recording the outcomes of different plays.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;color:rgb(0,0,0)"><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif">  I am way out of my depth here, but if AIs are going to learn things for us, somehow we should be able to tell how it does what it does.  Maybe not now but in the future?  Otherwise the AIs have all the secrets!  </div></div></div></blockquote><div><br></div><div>These AIs are learning very narrowly-defined games in very simple domains and a tiny set of well-defined rules. What they do is impressive to us in the same way that a calculator is impressive to us at doing arithmetic. They don't have a strategy beyond making the play that the numbers say is the best one.</div><div><br></div><div>Their benefit to us will not be as teachers but as tools to get jobs done faster/better/cheaper than we can. We don't need an AI poker program (unless you want to try to cheat with it), it's primarily a demonstration of what can be done with machine learning. There are many practical applications like self-driving cars, computer vision, Youtube video recommendations, medical diagnosis, ...</div><div><br></div><div>-Dave</div></div></div>