<div dir="ltr">Very well put Stuart, I would argue that the true meaning is in the relation between the words, that the words relating to something external to language. This why one could completely understand a language without ever having experienced an external referent. All that matters are the relationships. As in the case of building mathematics from the nulls set you could do that with any language. But most languages don't need even to be built from scratch because they are already there. So for an alien or ChatGPT (that is basically an alien) it is even simpler to derive an entire universe of meaning only by studying patterns between already existing words. This how NLM have derived grammar from these patterns and theory of mind. I'm not sure why anybody would still insist on these capabilities of NLM is not true understanding (one can argue on the level of understanding but my experience is that for what concerns language comprehension NLM are better than many humans). <br><br><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Mar 24, 2023 at 1:12 AM Stuart LaForge via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
Quoting Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com" target="_blank">gordon.swobe@gmail.com</a>>:<br>
<br>
> Bender's point is not that ChatGBT is incapable of generating sensible<br>
> sentences about sticks and bears. It is that these LLMs don't know the<br>
> meanings of any words whatsoever. Confronted with a word it has never seen,<br>
> it must do a statistical analysis to try to find probable next words, never<br>
> knowing what any of them mean.<br>
<br>
<br>
You and Bender seem to making a big deal about the referential meaning  <br>
of words as if they were some sacred goal-keepers of consciousness.  <br>
But really the meaning of words are quite arbitrary and determined by  <br>
the people who use them. Thus the referential meanings of words evolve  <br>
and change over time and come to refer to different things. Take the  <br>
word "terrific" for example. At one time, its referent was something  <br>
terrible cognate to horrific referring to something horrible. These  <br>
days however, its referent is something great or wonderful.<br>
<br>
Or how the meaning of liberal evolved in the U.S. from someone who  <br>
acts like a free person in a free market to someone who wants big  <br>
government, high taxes, and welfare programs. Or take for example when  <br>
a kid on the street tells you, "Your drip is fresh." The meanings of  <br>
words shift, change, and evolve over time and sometimes even define  <br>
social groups. Consciousness is the ability to communicate despite the  <br>
shifting arbitrary meaning of words, not because of the meaning of  <br>
words having some true absolute referential meaning.<br>
<br>
Stuart LaForge<br>
<br>
<br>
<br>
<br>
<br>
<br>
<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>