<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Mar 24, 2023, 5:19 PM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><br></div><div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Mar 24, 2023 at 12:41 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div><div class="gmail_quote"><div dir="auto">As a computational linguist, Bender is on our side.  She is obviously very excited about the progress these language models represent, but is reminding us that the models do not actually understand words to mean anything whatsoever. </div><div dir="auto"><br></div></div></div></blockquote><div><br></div><div><br></div><div>What's her evidence of that?</div></div></div></blockquote><div dir="auto"><br></div><div dir="auto">After all this discussion over many days, it surprises me that you would ask that question. Perhaps you are writing for Stuart’s sake as I was responding to  him.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I ask because I haven't yet seen any evidence supporting this claim.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"><br></div><div dir="auto">Words have meanings, also called referents.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Words have meanings.</div><div dir="auto">Words may refer to other things.</div><div dir="auto"><br></div><div dir="auto">But I think it's an error to equate "meaning" with "referent." Meaning is subjective and exists in the mind of the interpreter, while referents are (usually) objective.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"> These referents exist outside of language. When you show me an apple in your hand and say “This is an apple,” it is the apple in your hand that gives your utterance “apple” meaning. That apple is not itself a word. It exists outside of language.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Agreed.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"><br></div><div dir="auto">These LLM’s do no more than analyze the statistical patterns of the forms of words in written language.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I disagree. I think they also build models of reality, and things in that reality that are described by the words they encounter. What proof do you have that all they do is analyze statistical patterns and that they do not build models?</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"> They have no access to the referents .</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Neither do we. We only have access to our perceptions, never the outside world.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto">and therefore cannot know the meanings.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I disagree. We don't have access to referents, and this is obviously the case for things like the number 2, yet we can understand the meanings of the number 2.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"> You disagree with me on that fact, arguing that by some magic, they can know the meanings of words outside of language while having no access to them.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I've explained it. It's not magic. I've shown you how meaning can be extracted from any data set with patterns. You tend not to reply to those emails, however.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><div dir="auto"> To me (and to Bender and her colleague Koller), that defies logic and reason.</div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Our brains are clear counter examples to their, and your claims. That you persist in arguing for this idea, in the face of the existence of this counterexample, defies logic and reason.</div><div dir="auto"><br></div><div dir="auto">Jason</div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="ltr"><div class="gmail_quote"><div dir="auto"></div></div></div></blockquote></div></div>
</blockquote></div></div></div>