Hi John,<br><br><div class="gmail_quote">On Sun, Nov 14, 2010 at 9:27 PM, John Grigg <span dir="ltr"><<a href="mailto:possiblepaths2050@gmail.com">possiblepaths2050@gmail.com</a>></span> wrote:<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex;">
<div class="im">
<br>
</div>I agree that self-improving AGI with access to advanced manufacturing<br>
and research facilities would probably be able to bootstrap itself at<br>
an exponential rate, rather than the speed at which humans created it<br>
in the first place.  But the "classic scenario" where this happens<br>
within minutes, hours or even days and months seems very doubtful in<br>
my view.<br>
<br>
Am I missing something here?</blockquote><div><br></div><div>MNT and merely human-equivalent AI that can copy itself but not qualitatively enhance its intelligence beyond the human level is enough for a hard takeoff within a few weeks, most likely, if you take the assumptions in the Phoenix nanofactory paper.  </div>
<div><br></div><div>Add in the possibility of qualitative intelligence enhancement and you get somewhere even faster.  </div><div><br></div><div>Neocortex expanded in size by a factor of only about 4 from chimps to produce human intelligence.  The basic underlying design is much the same.  Imagine if expanding neocortex by a similar factor again led to a similar qualitative increase in intelligence.  If that were so, then even a thousand AIs with so-expanded brains and a sophisticated manufacturing base would be like a group of 1000 humans with assault rifles and helicopters in a world of six billion chimps.  If that were the case, then the Phoenix nanofactory + human-level AI-based estimate might be excessively conservative.   </div>
</div><br>-- <br><a href="mailto:michael.anissimov@singinst.org" target="_blank">michael.anissimov@singinst.org</a><br><span style="font-family:arial, sans-serif;font-size:13px;border-collapse:collapse"><div>Singularity Institute<br>
</div><div>Media Director</div></span><br>