<div dir="auto">Yes this is the paper I referred to. I am not sure why the link didn't work for you. It downloads a rather large (~7 MB) pdf in the background, perhaps that's why the link appears to do nothing when clicked?<div dir="auto"><br></div><div dir="auto">Jason </div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Mar 24, 2023, 1:42 AM Giovanni Santostasi <<a href="mailto:gsantostasi@gmail.com">gsantostasi@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">Yes, as always Jason understanding of these topics shines through. LET'S DO EXPERIMENTS ! Not garbage philosophical navel gazing. <br>I think this is the paper Jason linked (but PDF doesn't work on the archive for some reason). <br><br><a href="https://www.lesswrong.com/posts/mmxPbFz7wvthvHCxq/sparks-of-artificial-general-intelligence-early-experiments" target="_blank" rel="noreferrer">https://www.lesswrong.com/posts/mmxPbFz7wvthvHCxq/sparks-of-artificial-general-intelligence-early-experiments</a><br><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Mar 23, 2023 at 8:36 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Mar 23, 2023, 11:17 PM Gordon Swobe via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Thu, Mar 23, 2023 at 8:39 PM Will Steinberg via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer noreferrer noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">I don't have a lot of faith in a person who has a hypothesis and designs a thought experiment that is essentially completely irrelevant to the hypothesis. </div></blockquote><div><br>As I wrote, I agree the thought experiment does not illustrate her point clearly, at least outside of the context of her academic paper. As I've mentioned, the octopus is supposed to represent the state in which an LLM is in -- completely disconnected from the meanings of words (referents) that exist only outside of language in the real world represented by the islands. But it is a sloppy thought experiment if you don't know what she is trying to say. <br><br>It is about form vs meaning. LLMs are trained only on and only know (so to speak) the forms and patterns of language. They are like very talented parrots, rambling on and on in seemingly intelligent ways, mimicking human speech, but never having any idea what they are talking about.<br></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><div dir="auto">There's no way to read this paper: <a href="https://arxiv.org/pdf/2303.12712.pdf" target="_blank" rel="noreferrer">https://arxiv.org/pdf/2303.12712.pdf</a> and come away with the impression that GPT-4 has no idea what it is talking about.</div><div dir="auto"><br></div><div dir="auto">Jason </div></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><br>-gts</div></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer noreferrer noreferrer" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>
</blockquote></div>