<div><br></div><div dir="auto">To put that another way, just as it can know the forms of words but not their meanings, it can know the form of grammar but not its meaning. I have no doubt that this goes a long way toward helping it write sensibly. The forms of grammar are part of what is meant by the patterns of language.</div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto">-gts</div><div dir="auto"><br></div><div dir="auto"><br><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Sun, Apr 16, 2023 at 1:03 AM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="ltr"><div dir="ltr">On Sat, Apr 15, 2023 at 10:47 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br><br>I disagree completely.<br><br>The LLM can learn patterns, yes, (this is part of what GPT does and reports that it does) but no, it cannot learn what the parts of speech mean, nor does it claim to know the parts of speech.<br><br>> Numbers are often listed in a certain sequence (e.g. in ascending order), often used before nouns (can infer it gives a count). <br><br>What is a number? What is a noun?  A person, place or thing, you say? What is a person, a place, or a thing? <br><br>> Words that can stand alone as sentences are verbs.<br><br>What is a verb? Action? What is action? For that matter, what is a sentence?<br><br>Likewise with all other parts of speech. Even if it can classify every noun as belonging to a certain set of symbols X, and every verb as belonging to another set of symbols Y, it could still never know what is a noun or a verb. It can know only the pattern of how these classes of symbols tend to appear together .<br><br>GPT-4 can learn only the patterns and relationships between and among word-symbols with no knowledge of the meanings of the individual words, <b>exactly as it reports that it does</b>. It does this extremely well, and it is in this way that it can <b>simulate</b> human understanding.<br><br><br></div><div class="gmail_quote"><div>-gts<br><br> </div></div></div>
</blockquote></div></div>