<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On 2 May 2013 09:16, Anders Sandberg <span dir="ltr"><<a href="mailto:anders@aleph.se" target="_blank">anders@aleph.se</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">

  
    
  
  <br><div text="#000000" bgcolor="#FFFFFF">
    <div>On 02/05/2013 06:59, Kelly Anderson
      wrote:<br>
    </div>
    <blockquote type="cite">
      <div dir="ltr">On Mon, Apr 29, 2013 at 3:51 AM, Gordon <span dir="ltr"><<a href="mailto:gts_2000@yahoo.com" target="_blank">gts_2000@yahoo.com</a>></span>
        wrote:<br>
        <div class="gmail_extra">
          <div class="gmail_quote">
            <blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
              <div style="font-size:12pt;font-family:times new roman,new york,times,serif">
                <div><span style="background-color:transparent">We need
                    to understand the brain before we can hope to
                    duplicate one. It's pretty naive, I think, to
                    suppose that we can create one even before we know
                    how they work. </span><br>
                </div>
              </div>
            </blockquote>
            <div><br>
            </div>
            <div>Agreed. Have you read Kurzweil's most recent
              book? What do you think of it?</div>
          </div>
        </div>
      </div>
    </blockquote>
    <br>
    I read it. I think it is surprisingly mainstream: many
    neuroscientists (computational  or not) believe roughly in something
    similar. What many do not believe in, and I think Ray does, is that
    the system is as clean as described. In particular, he is a
    "cortical chauvinist", believing that the cortex is mostly what
    matters - but the subcortical systems is what sets our goals, style
    of learning and evaluations. </div></blockquote><div><br></div><div>We have good reasons to investigate the internal organisation of biological brains. They do exist and work, they do not make us wait their output for cosmological aeons, and they do that with a trivial consumption of space and energy.<br>
<br></div><div>OTOH, there is no reason *in principle* why a black-box approach should not feasible as well. Organic brains are finite systems with a finite, albeit astronomical, number of states. <br><br>As soon as you reach the level where the brain's output can be predicted with sufficient accuracy for your purposes (eg, social recognition of the system as a generic, or specific, biological organism), voilą, for anybody other than those believing in ineffable qualities and noumena you have an "AGI" or an "upload", and you need not any especial effort to hallucinate your internal, subjective states on it any more than you have with fellow humans or animals.<br>
<br>--<br></div><div>Stefano Vaj<br></div><div><br></div></div></div></div>