<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Fri, Jun 12, 2020 at 2:50 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</span><br></div></div><div class="gmail_quote"><div dir="ltr" class="gmail_attr"><br></div><div dir="ltr" class="gmail_attr"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>I am curious how close members on this list feel we are from achieving AGI. Most estimates seem to put it around 2040 plus or minus 10 years. Is that the general consensus? </i></blockquote><div><font size="4"><br></font></div><font size="4">That would be my best guess but it's only a guess; the inherent iterative nature of the thing makes predicting a future timeline difacult.</font><br><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif"><br></span></div></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Could it happen much sooner? </i></blockquote><div><br></div><div class="gmail_default" style=""><font face="arial, helvetica, sans-serif"></font><font size="4">Sure, it could come suddenly out of the blue with little warning; if for example somebody developed a computer program that could improve software as well as Alphazero can improve gameplay for GO or Chess with no assistance from humans needed. If that happened then we could wake up one morning and find ourselves in the possession of a high level computer language that was so easy to use that grade school kids could learn it with no problem but ran as efficiently as the very best machine code produced by expert human programmers could with the help of assembly language.</font></div><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div><blockquote style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex" class="gmail_quote"><span style="font-family:Arial,Helvetica,sans-serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Does anyone here believe it will happen much later than that?</i></span></blockquote><div><br></div></div><font size="4">It could be later but if it does I think it would be due to societal factors and not because of technological limitations. I say this because thanks to biology we know of an upper limit on the amount of complexity a seed AI would need. In the entire human genome there are only 3 billion base pairs, there are 4 bases so each base can represent 2 bits, there are 8 bits per byte so that comes out to 750 meg which you could fit on an old fashioned CD audio disk. And there is a huge amount of redundancy in the genome so with file compression you'd probably need less than a third of that CD audio disk, and of course much of the genome is about stuff that has nothing to do with the brain or intelligence.<br><br>John K Clark</font><br></div>