<div dir="ltr">To have a singularity as described, it is necessary to completely remove human - non-exponentially-accelerating, or at least not doing so nearly fast enough to reduce generation times small enough to achieve a singularity any time soon - input from the loop.<div><br></div><div>The author notes that this can not currently be done.</div><div><br></div><div>The author does propose AI examples from the real world that try, but these examples fall laughably short in practice.  Not of the form "they're trying and they are likely to improve", either: years of work has not made the recommendation engines of Amazon, Google, and the like noticeably better despite trying exactly the approach that should theoretically work.</div><div><br></div><div>Perhaps some day, AI will be able to actually learn and realistically measure human values and tastes, so as to be able to effectively judge new works in this light.  That day does not appear to be today, and it will take some new invention - not just the refinement of existing AIs along their currently implemented paths - to pull that off.</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Jan 11, 2023 at 3:48 PM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg-6706359741124089978"><div lang="EN-US" style="overflow-wrap: break-word;"><div class="m_-6706359741124089978WordSection1"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">Reason has an interesting take on Vinge’s singularity, by focusing on a particular aspect.  We think of a general AI singularity, but this writer Michael Munger looks at only how ChatGPT and its cousins will impact writing.  He makes some really good points here:<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><a href="https://reason.com/2023/01/10/the-text-singularity/?utm_medium=email" target="_blank">The Future of GPT4 Chatbot Text Production (reason.com)</a><u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">I am tempted to steal some of them.<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">spike<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p></div></div>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</div></blockquote></div>