<div dir="ltr"><br><div class="gmail_extra"><div><span class="im" style="font-size:12.8px"><div class="gmail_quote">On Fri, Apr 1, 2016 at 9:03 AM, Robin D Hanson <span dir="ltr"><<a href="mailto:rhanson@gmu.edu" target="_blank">rhanson@gmu.edu</a>></span> wrote:</div></span><div class="gmail_quote" style="font-size:12.8px"><span class="im"><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div style="word-wrap:break-word">Okay, but I’m much less interested in “general reasoning abilities” than in full functionality to substitute for humans on almost all jobs.</div></blockquote><div><br></div></span><div>### I would be very impressed by a machine capable of substituting for human general reasoning abilities. It could be set to work on improving its reasoning abilities, and then, of course, substituting for humans in all jobs is likely to be not far behind.</div><div> </div><div>-----------------</div><span class="im"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div style="word-wrap:break-word">I’d say you really don’t know how many other modules are needed, or how hard they will be to create. But you do here admit that there is at least one further module needed that we don’t have or know how to make. </div></blockquote><div><br></div></span><div>### Of course, it would be hubris to claim that I know how far we are from a human-equivalent intelligence but I can make some reasonable guesses. Based on the complexity of the neural structures involved in volition, building this volitional module would be more difficult than building a walking robot but not dramatically so. The limbic system works very closely with the cortex but aside from that it is not orders of magnitude more complex than the brainstem. By weight it is a few times larger than the brainstem if you include the relevant cortical areas, and the neurophysiology is not different from the rest of the brain, so duplicating its function in software shouldn't be a 50-year stumbling block on the way to AGI.</div><div><br></div><div>Rafał</div></div></div>
</div></div>