On 10/8/06, <b class="gmail_sendername">Samantha Atkins</b> <<a href="mailto:sjatkins@mac.com">sjatkins@mac.com</a>> wrote:<br>
<div><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;"><div style=""><div><span class="q"></span>Precisely why I was surprised to say the least.  I do not remember you being such a naysayer on the subject.
</div></div></blockquote><div><br>
My assessment has become more realistic over the last few years :)
Though I don't think I'm being that much of a naysayer - I'm not
writing off the enterprise, after all, merely noting that it's going to
take a lot longer than we'd hoped.<br>
</div><br>
<blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;"><div style=""><div><span class="q"></span><div>That is one opinion.  I very much doubt it is that difficult.  Also did you factor in accelerating change fully in these "generations"?   In some fields a generation is about a month long.  
</div></div></div></blockquote><div><br>
By "generation" here I mean the period of time in which a major advance
is invented, polished, widely deployed and integrated as part of the
overall technology base, so that it becomes a routine building block
for future advances. Things like structured programming,
microcomputers, the Internet.<br>
<br>
Now, timescale is a different matter.<br>
<br>
Human-level AGI will take several generations of technological advance
from where we are now, not just one - you can take that prediction to
the bank, because it's not a prediction per se, it's about the nature
of the problem itself.<br>
<br>
For what that translates to in calendar years... well, that's getting
into foretelling the future, which like non-psychic people in general I
have some difficulty with :) It seems to me that a typical ballpark
figure is a couple of decades per technological generation, with the
speed at which people can think and learn being the rate-limiting step,
and I'm skeptical that the rate of change is actually accelerating.
However, I'm not certain of this; you could claim it might come down to
one decade or less per generation, and I can't be sure it won't.<br>
</div><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;"><div style=""><div><div>Eh, it is fun to attempt to build elves.    But I was talking there about denying that whether the AGI is "friendly" or not is a bit more difficult than merely refraining from explicitly programming in the goal of exterminating humanity.  
<br>
</div></div></div></blockquote></div><br>
My position isn't "we need merely refrain from explicitly programming
such a goal" (presumably things will be more complicated than that -
they always are), but "it will be a long while yet before we know
enough about AGI to do more about Friendliness than make up stories".<br>