<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Jun 12, 2020 at 2:45 PM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">On Fri, 12 Jun 2020 at 19:50, Jason Resch via extropy-chat<br>
<<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br>
><br>
> I wrote an analysis of the current capabilities of modern AI systems:<br>
> <a href="https://alwaysasking.com/when-will-ai-take-over/" rel="noreferrer" target="_blank">https://alwaysasking.com/when-will-ai-take-over/</a><br>
><br>
> I found what some systems are capable of, especially in terms of computational creativity, and general purpose learning algorithms, to be shocking.<br>
><br>
> For instance, DeepMind has a single AI that has learned to play every Atari game better than any human.  GANs have been made that produce original art pieces and can take a single photo and envision it as a talking head. Google's Duplex can make phone calls and hold conversations so well the person at the other end of the line doesn't realize they're talking to a machine.<br>
><br>
> I am curious how close members on this list feel we are from achieving AGI. Most estimates seem to put it around 2040 plus or minus 10 years. Is that the general consensus? Could it happen much sooner? Does anyone here believe it will happen much later than that?<br>
><br>
> Jason<br>
> _______________________________________________<br>
<br>
<br>
Brian Wang has a recent article considering AGI development.<br>
<<a href="https://www.nextbigfuture.com/2020/05/time-for-iterations-and-costs-going-from-inferior-agi-to-superhuman-agi.html" rel="noreferrer" target="_blank">https://www.nextbigfuture.com/2020/05/time-for-iterations-and-costs-going-from-inferior-agi-to-superhuman-agi.html</a>><br>
<br>
Estimates depend on whether you believe that progress will be<br>
exponential or linear.<br>
Also whether financial / political / climate / environment / epidemic<br>
etc. disasters might derail the train of progress.<br>
<br>
The military and politicians are beginning to think of superhuman AGI<br>
in the same way that they think of nuclear weapons. So researchers<br>
will not be left alone when they appear to be nearing successful<br>
development.<br>
<br><br></blockquote><div><br></div><div>The difference is it took a meaningful percentage of national electricity to refine uranium. The tools of AI are open source, and the necessary equipment available for anyone to purchase on Amazon's or Google's clouds.  The algorithms behind learning, creativity, and understanding are already known. I think the only thing standing in the way of superhuman AI is the compute resources and perhaps the data sets necessary for training.</div><div><br></div><div>Jason</div></div></div>