<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Mar 23, 2023 at 4:25 PM Gordon Swobe via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Bender's point is not that ChatGBT is incapable of generating sensible sentences about sticks and bears. It is that these LLMs don't know the meanings of any words whatsoever.</div></blockquote><div><br></div><div>### What do you mean by "they don't know"? Do you mean the LLM does not have a representation of the general properties of bears, sticks, and other physical objects, does not have a</div><div>representation of the network of possible interactions between them (which in the psychological literature is referred to as "folk physics")? That it does not have a network of connections between abstract </div><div>representations of physical properties and invariant descriptions of classes of objects (i.e. they don't have the ability to recognize images of objects, classify the objects and link the objects to various properties)?</div><div><br></div><div>GPT4 clearly has the above mental affordances. In other words, it knows the meaning of a bear, including its possible effects on human survival and the extent of its vulnerability to sticks.</div><div> It can look at a picture of a bear, extrapolate what is going to happen during a bear attack, formulate a plan of defense using available resources and </div><div>output a coherent narrative. </div><div><br></div><div>In what way is this process not understanding what a bear is?</div><div><br></div><div>Or maybe I should ask, what does it mean for a human to *understand*, in mechanistic, psychophysiological terms? </div><div><br></div><div>Do tell us how you understand the word "understand", using the language of</div><div>basic neuroscience, so we can understand what we are discussing here.</div><div> </div><div>Rafal</div></div></div>