<html>
  <head>
    <meta content="text/html; charset=ISO-8859-1"
      http-equiv="Content-Type">
  </head>
  <body text="#000000" bgcolor="#FFFFFF">
    <div class="moz-cite-prefix">On 2013-05-27 15:25, spike wrote:<br>
    </div>
    <blockquote cite="mid:002d01ce5ae6$0c504c50$24f0e4f0$@rainier66.com"
      type="cite">
      <meta http-equiv="Content-Type" content="text/html;
        charset=ISO-8859-1">
      <meta name="Generator" content="Microsoft Word 14 (filtered
        medium)">
      <style><!--
/* Font Definitions */
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:Tahoma;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:"Times New Roman","serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-reply;
        font-family:"Calibri","sans-serif";
        color:#1F497D;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri","sans-serif";}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
      <div class="WordSection1">
        <p class="MsoNormal"><span
style="font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D"><o:p> </o:p>
            Look at us; how long have we been debating the singularity
            right here?  Twenty years now?  We aren’t any closer than we
            were then, other than computers are faster and better
            connected.  It is possible that humans are just slightly too
            dumb to discover how to cause a singularity.<o:p></o:p></span></p>
        <br>
      </div>
    </blockquote>
    <br>
    This is actually a really good question. How smart do you have to be
    in order to trigger a singularity?<br>
    <br>
    Toby Ord pointed out that there is a curious coincidence in much of
    our thinking. We (handwavy use of us in the community who think that
    intelligence explosions are real possibilities) tend to think there
    is some limit - dogs will not invent singularity tech no matter how
    much time [*] we give them, yet many of us think there is some
    takeoff point near current human mental and technical capacities.
    This limit is presumably set by the laws of nature (in particular,
    the laws of computational complexity). Yet our current state is
    totally contingent - it is happening right now, and was not around
    in the past nor will it be in the future unless we manage to
    stagnate. So why are we assuming the takeoff point is near this tiny
    little window of capacity we are having right now? One could imagine
    Greek philosophers talking about Aristotle's "talking tools" and the
    progress over in Alexandria coming up with an intelligence explosion
    concept, yet clearly being far away from any takeoff points.<br>
    <br>
    Some possible answers might be that (1) the takeoff point is either
    far below or above us (see footnote below). (2) The question is
    badly posed, or the concepts used are verbiage. (3) there is an
    anthropic factor were beings who talk around singularities tend to
    be found just before them. (4) there is no such thing as a takeoff
    point. (5) we are living in an unusual era. <br>
    <br>
    <br>
    [*] Give simple animal enough time to evolve in the right
    environment, and they may of course become intelligent, develop
    tech, and have a singularity. So framing the question right turns
    out to be really hard: how do we distinguish between waiting for
    natural evolution plus individual efforts as a result of it, having
    some resources and intelligence and using those, and other methods
    like making random trial-and-error? One possible answer to the
    question might simply be that it is wrongly posed: give enough
    hydrogen some time, and it will turn into singularity creatures. I
    suspect re-framing the question so it becomes well posed will be
    rather useful for improving our thinking about the topic.<br>
    <br>
    <br>
    <pre class="moz-signature" cols="72">-- 
Dr Anders Sandberg
Future of Humanity Institute
Oxford Martin School
Oxford University
</pre>
  </body>
</html>