<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Apr 27, 2023, 8:05 PM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple" style="word-wrap:break-word"><div class="m_-1967226009904416030WordSection1"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><div style="border:none;border-top:solid #e1e1e1 1.0pt;padding:3.0pt 0in 0in 0in"><p class="MsoNormal"><b>…</b>> <b>On Behalf Of </b>Gordon Swobe via extropy-chat<br><b>Subject:</b> Re: [ExI] Ben Goertzel on Large Language Models<u></u><u></u></p></div><p class="MsoNormal"><u></u> <u></u></p><div><div><p class="MsoNormal">On Thu, Apr 27, 2023 at 4:59 PM Giovanni Santostasi <<a href="mailto:gsantostasi@gmail.com" target="_blank" rel="noreferrer">gsantostasi@gmail.com</a>> wrote:<u></u><u></u></p></div><div><blockquote style="border:none;border-left:solid #cccccc 1.0pt;padding:0in 0in 0in 6.0pt;margin-left:4.8pt;margin-right:0in"><div><p class="MsoNormal" style="margin-left:11.55pt">>>…Gordon,<br>Given Goertzel believes that we can reach AGI in a few years would you simply concede that when we reach this level of intelligence the AGI would be conscious if it behaves like a conscious agent …<br><br>>…As for whether any AI will have subjective experience -- what I mean by consciousness -- I do doubt that, at least on digital computers as we understand them today. I certainly do not believe that GPT-4 or any other LLM is conscious.<br><br>-gts<u></u><u></u></p></div></blockquote><div><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">Seems we are working back to a question I have posed earlier: are consciousness and intelligence separable?  In principle, I don’t see why not.</p></div></div></div></div></div></blockquote></div></div><div dir="auto">I don't think they're separable. Intelligence requires knowledge of the environment and "possessing knowledge of the environment (or anything else for that matter)" is conscious: "con•scious" means "with knowledge." </div><div dir="auto"><br></div><div dir="auto">So intelligence implies consciousness.</div><div dir="auto"><br></div><div dir="auto">But note that consciousness does not imply intelligence, because intelligence requires the ability to interact with the environment in accordance with achieving some goal. If someone is locked, or dreaming, they are conscious but not intelligently interacting with their (at least, outer) world.</div><div dir="auto"><br></div><div dir="auto">Jason </div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div lang="EN-US" link="blue" vlink="purple" style="word-wrap:break-word"><div class="m_-1967226009904416030WordSection1"><div><div><div><p class="MsoNormal">  ChatGPT is claiming to be not conscious, but it appears to be intelligent.<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">I suppose we could ask GPT if it thinks consciousness and intelligence can be separated, but it might end up contradicting itself.  Perhaps someone already did that experiment.<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal">spike<u></u><u></u></p><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p></div></div></div></div></div>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div></div>