Here's a list I put together a long time ago:<div><br></div><div><a href="http://www.acceleratingfuture.com/articles/relativeadvantages.htm">http://www.acceleratingfuture.com/articles/relativeadvantages.htm</a></div><div>
<br></div><div>Say I meet someone like Natasha or Stefano, but I know they haven't been exposed to any of the arguments for an abrupt Singularity.  Someone more new to the whole thing.  I mention the idea of an abrupt Singularity, and they react by saying that that's simply secular monotheism.  Then, I present each of the items on that AI Advantage list, one by one.  Each time a new item is presented, there is no reaction from the listener.  It's as if each additional piece of information just isn't getting integrated.  </div>
<div><br></div><div>The idea of a mind that can copy itself directly is a really huge deal.  A mind that can copy itself directly is more different than us than we're different from most other animals.  We're talking about an area of mindspace way outside what we're familiar with.  </div>
<div><br></div><div>The AI Advantage list matters to any AI-driven Singularity.  You may say that it will take us centuries to get to AGI, so therefore these arguments don't matter, but if you think that, you should explicitly say so.  The arguments about whether AGI is achievable by a certain date and whether AGI would quickly lead to a hard takeoff are <i>separate arguments</i> -- as if I need to say it.  </div>
<div><br></div><div>What I find is that people don't like the *connotations* of AI and are much more concerned about the possibility of THEM PERSONALLY sparking the Singularity with intelligence enhancement, so therefore they underestimate the probability of the former simply because they never care to look into it very deeply.  There is also a cultural dynamic in transhumanism whereby interest in hard takeoff AGI is considered "SIAI-like" and implies that one must be culturally associated with SIAI.  </div>
<div><br>-- <br><a href="mailto:michael.anissimov@singinst.org" target="_blank">michael.anissimov@singinst.org</a><br><span style="font-family:arial, sans-serif;font-size:13px;border-collapse:collapse"><div>Singularity Institute<br>
</div><div>Media Director</div></span><br>
</div>