<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Thu, May 16, 2019 at 3:12 PM Dave Sill <<a href="mailto:sparge@gmail.com">sparge@gmail.com</a>> wrote:</span><br></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><font face="arial, helvetica, sans-serif"><i> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>I can write a perfect tic-tac-toe playing AI, for example,</i></font></div></div></div></div></div></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">But you can't write a program that can learn to play chess at a superhuman level starting from zero and without being taught. Nobody can do that. But humans can build neural nets, and although a human can explain how it works in very broad detail nobody can say specifically why the machine decided this move was better than that move, however it soon becomes crystal clear it was the better move and its playing Chess at a superhuman level.   </font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><font size="4">Incidentally this <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">sort of thing </span>could cause social problems in the very near future. Imagine being denied a loan because a AI, which has proven itself over and over again to be superhumanly good at this, has decided  <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">not to give you a loan because you are</span> a bad credit risk. You look at your credit history and it looks pretty good to you and <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">in fact it looks good </span>to most people<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">,</span> so you ask the AI <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">exactly </span>what <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">is it that</span> you don't like, but just as it can't explain why it made a particular Chess move it can't explain why your loan was denied except to say <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span>it just didn't look right to me<span class="gmail_default" style="font-family:arial,helvetica,sans-serif">"</span>. You would probably be frustrated by that response, and what would make it even worse is the knowledge that it's hunch <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">is </span>probably right, <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">you probably wouldn't be able to repay it.</span> </font><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div><font face="arial, helvetica, sans-serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Chess is vastly harder to play, but chess playing programs still only play chess.</i></font></div></div></div></div></div></blockquote><div><br></div><div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"><font size="4"> A</font></font><font size="4"><span style="font-family:Arial,Helvetica,sans-serif">lphaZero can start with knowing nothing but if you just tell it what the basic rules of the game are it can teach itself in 24 hours without any human help to play 3 very different board games at a superhuman level</span>, GO, Shogi, and Chess (Chess is the easiest of the 3). And if you want to change the rules of the games, by making the board larger for example then just give it another 24 hours so it can practice with itself and it will be superhuman at that too.</font></div><div class="gmail_default" style=""><br></div><div class="gmail_default" style=""><font size="4">And all that was last year, this year a improved version called AlphaStar played Dario Wunsch, the world's best human player of the video game Starcraft 2; AlphaStar beat the human in the competition 5 games to zero.</font></div><div class="gmail_default" style=""><font size="4"><br></font></div><div class="gmail_default" style=""><font size="4">John K Clark </font></div></div><br>
</div></div>