<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Thu, Jun 23, 2016 at 5:33 AM, Robin D Hanson <span dir="ltr"><<a href="mailto:rhanson@gmu.edu" target="_blank">rhanson@gmu.edu</a>></span> wrote:</div><div class="gmail_quote"><br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="word-wrap:break-word"><div><div>Yes many kinds of software today don’t do much learning, but we do have many real systems that do learn, usually based on statistics. (We also know of many software systems where the object code is much larger than the source code for other reasons.) So
 if you think that makes a huge difference, then imagine instead that someone gave you dozens of examples of statistical analysis code from decades ago. You’d have the same problem. </div></div></div></blockquote><div><br></div><div>### Again, this is reasoning by analogy. I can only again caution against trusting conclusions based on this kind of reasoning.</div><div> --------------</div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="word-wrap:break-word"><div>
<div><br>
</div>
<div>You don’t know that human brains are any more modular than is typical software. You don’t know that it only embodies a small number of principles, without masses of other implementation details also required for it work. And you don’t know that the many
 different parts of the brain are all written in the same “language”. </div></div></div></blockquote><div><br></div><div>### To the contrary. There are already many BMIs that meaningfully access both input and output from very diverse cortical areas relatively high in the hierarchy (visual, motor). This implies that the cortical language is accessible, it is accessible throughout the cortex, and it embodies a sufficiently small number of principles as to be accessed even by our still crude technology.</div><div> ------------------</div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="word-wrap:break-word"><div>
This one datum doesn’t indicate that the brain is any more modular that most software systems. Saying it is a “different type” and thus vastly easier to understand and modify just sounds like wishful thinking.</div></div></blockquote><div><br></div><div>### Saying "different type" is a conclusion, not a premise of my reasoning.</div><div><br></div><div>Here is another neat datum: The "movies" of visual imagery reconstructed from fMRI images of human cortex. This directly implies that human mind states are highly accessible, and reasoning by analogy is not needed to reach this conclusion. </div><div><br></div><div>Rafał </div></div>
</div></div>