<DIV>Reason,</DIV>
<DIV> </DIV>
<DIV>Fascinating, fascinating.  </DIV>
<DIV> </DIV>
<DIV>>Progress towards general (and/or strong) artificial intelligence (AI) - a<BR>>grail for many transhumanists and other futurists - has been slower than<BR>>we'd like. The level of difficulty has been consistently underestimated in<BR>>the past, and I see this as one part of a larger underestimation of any form<BR>>of complexity management.</DIV>
<DIV> </DIV>
<DIV>And the Singularity cheer-leaders are still understimating the diffculty today I think.  When I started thinking about FAI stuff I suspected that nothing less than (at least some degree of) understanding of the deepest, most general principles underpinning reality would be required.  That was why I opted to strike out at a TOE (theory of everything, or reality theory).</DIV>
<DIV> </DIV>
<DIV>Made no mistake, the Yudkowsky's and Goertzel's are still a million miles away from what it takes.</DIV>
<DIV> </DIV>
<DIV>I'll continue to stick my neck out and say that I've finally spotted the nature of the beast (at least in a vague, fuzzy sort of way).</DIV>
<DIV> </DIV>
<DIV>The secret I think is this:  A general recursively self-improving friendly AGI is an AI which understands the *true* nature of mind.  So to initiate Singularity, we simply design the AGI to understand the *true* nature of mind and the rest (friendliness etc) follows automatically as secondary consequences.</DIV>
<DIV> </DIV>
<DIV>I shall clarify.  To be a friendly seed AGI, complete self-awareness and self-understanding is *not* enough.  That is not what I meant by 'understands the true nature of mind'.</DIV>
<DIV> </DIV>
<DIV>By 'understands the true nature of mind', I mean the AGI not only has complete self-awareness and self-understanding but also *understands the general relationship between Mind and Reality*.  It is this starred property, I believe, that would produce a friendly seed AGI.</DIV>
<DIV> </DIV>
<DIV>And it's this *relationship between Mind and Reality* that I define to be equivalent to a TOE (theory of everything),  So:</DIV>
<DIV> </DIV>
<DIV>Mind  ------ relationship  ---- Reality</DIV>
<DIV> </DIV>
<DIV>You have M and R (Mind and Reality).  The TOE is the theory that integrates mental and physical concepts into a single explanatory framework and so explains the nature of that relationship.  Knowledge of such an explanation, I posit, would instantly create a friendly seed AGI.</DIV>
<DIV> </DIV>
<DIV>Now if I'm right, then we humans cannot be fully capable of comprehending the TOE (since we are not recursively self-improving), but we should still be able to obtain *some* degree of understanding (enough to build the AGI).</DIV>
<DIV> </DIV>
<DIV>There are 4 levels of 'awareness' for minds:</DIV>
<DIV> </DIV>
<DIV>Level 1: Fragments<BR><BR>Low-level disorganized qualia. No self-awareness or awareness of the external world. Examples: Rocks. Rights: None<BR><BR>Level 2: Agents<BR><BR>Rudimentary goal-directed systems. Little-no self-awareness but can form models of the external world. Examples: Animals. Some kinds of computer program, human infants. Rights: Right to be free of suffering. <BR><BR>Level 3: Sentients<BR><BR>Entities with full self-awareness. Can form models of self and the external world. Cannot understand the *true nature* of mind though - not a full general intelligence. Examples: Human adults. Rights: Full property rights- right to control own mind and body - right to liberty.<BR><BR>Level 4: Trans-sentients<BR><BR>Entities capable of fully understanding the *true nature* of mind - the relation between Mind and Reality (has awareness of 'The Theory Of Everything' or TOE). Capable of true general intelligence and recursive self-improvement. Examples: FAI - Friendly
 Artificial Intelligence. Rights: Who knows?</DIV>
<DIV> </DIV>
<DIV>We are stuck at Level 3.  Level 4 is the FAI.  </DIV>
<DIV> </DIV>
<DIV>So for a trans-human (like an FAI) knowledge of the TOE (theory of everything) would be just as obvious as knowledge of Self (Self-Awareness) is to us humans.  Indeed if I'm right, awareness of the TOE *defines* what a transhuman is, just as awarenss of Self (Self-Awareness) *defines* what we humans are compared to animals.</DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV>
<DIV> </DIV><BR><BR>---<br><br>Please vist my website:<br>http://www.riemannai.org<br><br>Science, Sci-Fi and Philosophy<br><br>---<br><br>THE BRAIN is wider than the sky,  <br>  For, put them side by side,  <br>The one the other will include  <br>  With ease, and you beside. <br><br>-Emily Dickinson<br><br>'The brain is wider than the sky'<br>http://www.bartleby.com/113/1126.html<p>
                <hr size=1>Do you Yahoo!?<br> 
<a 
href="http://us.rd.yahoo.com/mail/au/photos/**http%3A%2F%2Fau.photos.yahoo.com%2F"> 
Yahoo! Photos: Now with unlimited storage</a>