<div dir="ltr">This is the Achilles heel of all the deep learning that I've been exposed to.  Deep nets are also great at image recognition until an adversarial attack is injected that will fool a net, but not a human child.  There is zero comprehension.  The nets are dead behind the eyes.  I believe the folks attempting to replicate actual biological neuron function (the bulk of deep learning is not much more than high school math and a gradient descent function to find a global minima) have the best chance of building something that actually understands what it is doing.<div><br></div><div>In the mean time, this will become more and more of a problem as these systems get embedded in our environment and become open to exploit for profit:<br><div><br></div><div><a href="https://blog.openai.com/adversarial-example-research/">https://blog.openai.com/adversarial-example-research/</a><br></div></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Tue, Jan 16, 2018 at 1:21 PM, Dave Sill <span dir="ltr"><<a href="mailto:sparge@gmail.com" target="_blank">sparge@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><i>However, challenging the “comprehension” description, Gary Marcus, PhD, a Professor of Psychology and Neural Science at NYU, notes in a tweet that “the SQUAD test shows that machines can highlight relevant passages in text, not that they understand those passages.”</i><br><div><br></div><div>Yep.</div><div><br></div><div>-Dave</div></div><div class="gmail_extra"><br><div class="gmail_quote"><div><div class="h5">On Tue, Jan 16, 2018 at 1:13 PM, John Clark <span dir="ltr"><<a href="mailto:johnkclark@gmail.com" target="_blank">johnkclark@gmail.com</a>></span> wrote:<br></div></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="h5"><div dir="ltr"><div class="gmail_default"><font size="4">Microsoft achieved 82,650 on the Stanford University reading and comprehension test, the best human score so far is 82,304.</font><div style="font-family:arial,helvetica,sans-serif"><span style="color:rgb(33,33,33);font-size:12px;line-height:18px"><br></span></div><div style="font-family:arial,helvetica,sans-serif"><span style="color:rgb(33,33,33);font-size:12px;line-height:18px"><a href="http://www.kurzweilai.net/deep-neural-network-models-score-higher-than-humans-in-reading-and-comprehension-test?utm_source=KurzweilAI+Daily+Newsletter&utm_campaign=c8f5d1257b-UA-946742-1&utm_medium=email&utm_term=0_6de721fb33-c8f5d1257b-282205341" target="_blank">http://www.kurzweilai.net/deep<wbr>-neural-network-models-score-<wbr>higher-than-humans-in-reading-<wbr>and-comprehension-test?utm_<wbr>source=KurzweilAI+Daily+<wbr>Newsletter&utm_campaign=c8f5d1<wbr>257b-UA-946742-1&utm_medium=<wbr>email&utm_term=0_6de721fb33-<wbr>c8f5d1257b-282205341</a><br></span></div><div style="font-family:arial,helvetica,sans-serif"><br></div><div style="font-family:arial,helvetica,sans-serif"><font size="4">John K Clark</font></div></div></div>
<br></div></div>______________________________<wbr>_________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailm<wbr>an/listinfo.cgi/extropy-chat</a><br>
<br></blockquote></div><br></div>
<br>______________________________<wbr>_________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/<wbr>mailman/listinfo.cgi/extropy-<wbr>chat</a><br>
<br></blockquote></div><br></div>