On 10/10/05, <b class="gmail_sendername">Eugen Leitl</b> <<a href="mailto:eugen@leitl.org">eugen@leitl.org</a>> wrote:<div><span class="gmail_quote"></span><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">
On Mon, Oct 10, 2005 at 04:18:11PM +0100, Russell Wallace wrote:<br><br>> Oh, you could try that approach, but I don't think it's going to work.<br><br>My approach worked at least once (we're soaking in it), yours hasn't so far.
</blockquote><div><br>
Your approach required a nanocomputer the size of a planet running for
four billion years, and even with those resources it failed 57 grillion
times for one success if the Great Silence is anything to go by! (Have
you worked with evolutionary computation at all?)<br>
</div><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">> (Which is just as well, because you can't put Friendliness into brute force<br>
> evolution.)<br><br>It also happened at least once (though it's not very friendly, admittedly).<br>I don't think Friendliness exists. It is not a well-defined property<br>to start with, so you can't gauge conservation over system evolution.
<br><br>Is it worthwhile to try for a friendly system? Sure, if you can make it so.<br>But, I'm not holding my breath. It's too strangling a constraint, and<br>a seed is already hard as is.</blockquote><div><br>
I'm trying to prove you wrong, though admittedly you wouldn't be wise to hold your breath! <br>
</div><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">> Well, my prediction is that we _won't_ see a human equivalent by 2015,<br>> however hard I try to prove myself wrong :)
<br><br>What I meant, there won't be hardware equivalents of a human CNS,<br>regardless by which metric.</blockquote><div><br>
Agreed. <br>
</div><br><blockquote class="gmail_quote" style="border-left: 1px solid rgb(204, 204, 204); margin: 0pt 0pt 0pt 0.8ex; padding-left: 1ex;">> That depends, but if you think you can talk a manufacturer into building<br>
> hardware like that, please go for it!<br><br>Unfortunately, this is beyond ASIC budget. Way beyond ASIC budget.<br>This could easily ruin a major manufacturer, so nobody is going<br>to try until prototyping costs fall due to desktop nanoelectronics
<br>fabs (which won't be there by 2015, not even by 2025).</blockquote><div><br>
Agreed there also. (Indeed, short of Friendly AI we're never going to see desktop molecular factories for legal reasons alone.)<br>
</div><br>
</div>- Russell<br>