<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Wed, Jul 17, 2019 at 8:17 PM William Flynn Wallace <<a href="mailto:foozler83@gmail.com">foozler83@gmail.com</a>> wrote:</span><br></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style=""><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><font size="4" style="color:rgb(0,0,0);font-family:"comic sans ms",sans-serif;font-size:small"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>> </span></font><font size="4">the program can't tell us why it's so good at what it does for the same reason a human genius can't tell us why he's so good at what he does, neither of them knows.</font></blockquote><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif;font-size:small"><br></div><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif;font-size:small"><font size="4"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> <i></i></span><i>It's right there in the code, isn't it?</i></font></div></div></div></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4">Yes It's right there in the code, but as a practical matter that fact won't help us much. Your RSA  <b>public</b> encryption key that you use every time you buy something on Amazon contains all the information needed to find your <b>private</b> encryption key, but I still can't steal money from you because the sun will turn into a red giant long before my computer finishes making all the calculations needed to actually extract that information from your public key. In a similar way it </font><span style="font-size:large">would probably be easier (although still astronomically difficult) to figure out on our own how to play Poker at a superhuman level than it would be to try to make sense out of the vast amount of incredibly tangled spaghetti code in the computer's memory.</span></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;color:rgb(0,0,0)"><div style="color:rgb(34,34,34);font-family:arial,helvetica,sans-serif"><font style=""><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Otherwise the AIs have all the secrets!  </i></font></div></div></div></blockquote><div><br></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4">The AI didn't know why it was so good at poker just as Einstein didn't know why he was so smart, he just knew he was.</font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"><br></font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><font size="4"> John K Clark</font></div></div></div>