
<html><head></head><body><div><span data-mailaddress="ohadasor@gmail.com" data-contactname="Ohad Asor" class="clickable"><span title="ohadasor@gmail.com">Ohad Asor</span><span class="detail"> <ohadasor@gmail.com></span></span> , 30/9/2014 11:22 AM:<br><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;"><div class="mcntgmail_extra"><br><div class="mcntgmail_quote">On Tue, Sep 30, 2014 at 11:59 AM, Anders Sandberg <span><<a href="mailto:anders@aleph.se" target="_blank" title="mailto:anders@aleph.se" class="mailto">anders@aleph.se</a>></span> wrote:<br><blockquote class="mcntgmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex;"><div><br></div><div>The problem is that if the outcome space is not well defined, the entire edifice built on the Kolmogorov axioms crashes. In most models and examples we use the outcome space is well defined: ravens have colours. But what if I show you a raven whose colour was *fish*? (or colourless green?</div></blockquote></div><br></div><div class="mcntgmail_extra">Sure. That's why we speak about a great amount of variables. What if the input and output of our learner will be video and audio? I don't see any obstacle implementing it.</div></blockquote></div><div><br></div><div>Combinatorial explosion. When you discover spatial coherence and the existence of objects a lot of things like video become learnable that otherwise would need exponentially large training sets. So the real issue is how to get the hierarchies and structures from the data; I assume you know about the work in the Josh Tannenbaum empire?</div><div><br></div><div>Apparently the video game playing reinforcement agent of Deep Mind somehow figured out object constancy for the aliens in the first wave of Space Invaders and could learn to play well, but got confused by the second wave since the aliens looked different - it didn't generalize the first aliens, and had to re-learn the game completely for that stage. </div><div><br></div><br><div><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;"><div class="mcntgmail_extra"> We got the mathematical promises. We seem to got enough computational power. We got plenty of algorithms. Just two things need to be solved: how to train this brain (it's apparently more difficult than all mentioned tasks), and, who will convince investors for such a project? :)</div></blockquote></div><div><br></div>Deep Mind found investors :-)<br><div><blockquote class="mori" style="margin:0 0 0 .8ex;border-left:2px blue solid;padding-left:1ex;"><div class="mcntgmail_extra"></div></blockquote></div><br><br>Anders Sandberg, Future of Humanity Institute Philosophy Faculty of Oxford University</body></html>