<div dir="ltr">Yeah,<div>Nothing written about LLMs before this year has any value given that they experienced a phase shift in their performance. I have shown graphs where this is demonstrated by a sudden jump in their performance in several math and cognitive tasks demonstrating emergent properties. <br>GPT-4 has a very good memory of current and even past convo when you keep the convo in the same instance. <br>Giovanni </div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, May 4, 2023 at 5:33 PM Gadersd via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div style="overflow-wrap: break-word;"><blockquote type="cite"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:large">(re an AI trying to pass the Turing test):  'It is easy to fool them, not only because they don't have the kind of detailed contextual knowledge of the outside world that any normal person would have, but because they don't have memories even of the conversation they have been  having, much less ways to integrate such memories into the rest of the discussion.'</div></div></div></div></blockquote><blockquote type="cite"><div dir="ltr"><div class="gmail_quote"><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:large">No memory?    bill w</div></div></div></div></blockquote><div><br></div>I think Carroll is referring to traditional chat bots that were unable to effectively utilize information scattered all throughout the conversation in formulating responses. Simple bots, Markov chain bots for example, only base the next word generated on the past few words. Utilizing all available information in formulating a response requires a much more sophisticated model such as the much hyped transformer based large language models.<br><div><br><blockquote type="cite"><div>On May 4, 2023, at 2:44 PM, William Flynn Wallace via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:</div><br><div><div dir="ltr"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large"><br></div><div class="gmail_quote"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large">(I decided that you needed what the author wrote next)</div><br><div dir="ltr"><div style="font-family:"comic sans ms",sans-serif;font-size:large">from The Big PIcture, by Sean Carroll, astrophysicist:</div><div style="font-family:"comic sans ms",sans-serif;font-size:large"><br></div><div style="font-family:"comic sans ms",sans-serif;font-size:large">(re an AI trying to pass the Turing test):  'It is easy to fool them, not only because they don't have the kind of detailed contextual knowledge of the outside world that any normal person would have, but because they don't have memories even of the conversation they have been  having, much less ways to integrate such memories into the rest of the discussion.'</div><div style="font-family:"comic sans ms",sans-serif;font-size:large"><br></div><div style="font-family:"comic sans ms",sans-serif;font-size:large"><div class="gmail_default" style="font-family:"comic sans ms",sans-serif;font-size:large">In order to do so, they would have to have inner mental states that depended on their entire histories in an integrated way, as well as the ability to conjure up hypothetical future situations, all along distinguishing the past from the future, themselves from their environment, and reality from imagination.  As Turing suggested, a program that was really good enough to convincingly sustain human-level interactions would have to be actually thinking.</div><br></div><div style="font-family:"comic sans ms",sans-serif;font-size:large">No memory?    bill w</div></div>
</div></div>
_______________________________________________<br>extropy-chat mailing list<br><a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br><a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br></div></blockquote></div><br></div>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>