<div dir="ltr"><div>Gordon's objection is at a more basic level, if I understand it correctly.</div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Mar 22, 2023 at 7:11 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Mar 22, 2023, 8:23 PM Gordon Swobe <<a href="mailto:gordon.swobe@gmail.com" target="_blank">gordon.swobe@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Tue, Mar 21, 2023 at 6:43 AM Jason Resch <<a href="mailto:jasonresch@gmail.com" rel="noreferrer" target="_blank">jasonresch@gmail.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div>I address this elsewhere in the thread. A sufficient intelligence given only a dictionary, could eventually decode it's meaning. I provided an example of how it could be done.<br></div></div></blockquote><div><br>I saw that, and I disagree. I think if you try to work out an example in your head, you will see that it leads to an infinite regression, an endless search for meaning. Like ChatGPT, you will learn which word symbols define each other word symbol, and you learn the rules of language (the syntax), but from the dictionary alone you will never learn the actual meaning of the words (the referents).<br><br>Try it with any word you please. You rapidly have a massive list of words for which you have no meaning and for which you much keep looking up definitions finding more words for which you have no meaning, and in your list you also have many common words (like "the" and "a") that lead to endless loops in your search for meaning. </div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto">I see the word "Pi" defined by a string of 20 symbols which if I interpret them to be digits in base 10 I confirm to be the ratio of a circle's circumference to its diameter. This not only tells me about the number system used in the dictionary but also what each digit means.</div></div></blockquote><div><br></div><div>What are "digit", "base 10", "ratio", "circle", "circumference", "diameter", and "number system"?</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto">I count 92 entries with the string "chemical element" in their definition. X number of which have the string "radioactive" and the other (92-X) have the word "stable". I confirm these must be the 92 naturally occurring elements and the atomic numbers listed in the definition tell me the names of each of the elements.<br></div></div></blockquote><div><br></div><div>What are "radioactive", "stable", "naturally occurring elements", and "atomic numbers"?</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"></div><div dir="auto">I find an entry that includes "H2O aka dihydrogen monoxide" under the entry "water". I know that this is the word used to refer to the compound composed of one atom of oxygen bound to two elements of hydrogen.<br></div></div></blockquote><div><br></div><div>You know this.  An AI would not necessarily start with this knowledge.</div><div><br></div><div>And so on.  The basic objection is: if you start from literally no knowledge of the language other than "this word often goes with that in this way", how do you generate that first little bit of knowledge from which you can extrapolate the rest?</div><div><br></div><div>Let us take for example Japanese, Russian, or some other language you don't know that is not based on the grammar and syntax of a language that you do know.  You have access to lots of material written in that language, but no access to translators or any other oracle that can tell you what any of those words mean in languages you know.</div><div><br></div><div>If this sounds familiar from science fiction, it is part of the classic "first contact" scenario.  Let it be said, this is a solved problem for humans - but the ways in which they communicated those first meanings, that linked basic concepts to words, are not necessarily available for AIs, nor can ChatGPT et al necessarily be programmed with knowledge of a few words.  (As most people who have ever written code know, dismissing things as "a simple matter of programming" means "I have no idea how to do this".)  So how do AIs get over this hump?</div></div></div>