<div dir="auto"><div><br><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Mar 24, 2023, 2:20 AM Gordon Swobe via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr">Nobody least of all me questions that GPT-4 will be capable of amazing feats, and that eventually these language models will surpass humans in terms of what we can call intelligence or what I might for sake of clarity prefer to call apparent intelligence. The question here is whether they will know what they are saying given that they are trained only on the forms of words with no access to the meanings or referents.<br><br>Adrian has made the excellent point a couple of times that this is like the first contact problem in science fiction, and actually like the first contact problem between any two cultures with completely different languages. Q: When Kirk and Spock beam down to a new planet with intelligent alien life, how will they learn to communicate? A: With referents.<br><br>Spock will point to himself and say "Spock." Kirk will point to himself and say "Kirk." Kirk will point to a rock and say "rock." Kirk and Spock use these kinds referents to initiate  communication. If our alien friend wants to communicate, he will point to the rock and "fwerasa" (or whatever is his word for rock). He will point to himself and say his name, and so on. Eventually, Spock and the alien will learn how to translate a few words, and from there the process of understanding begins.<br><br>Now, what if they don't beam down to the planet and listen to only digital radio signals coming from the planet and send digital radio signals in return? No communication is possible as there are no referents. It's all noise.<br></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto">Did you not see my approach for an alien civilization to begin to decode a dictionary in an unknown language?</div><div dir="auto"><br></div><div dir="auto">Or did you not agree I would be able to learn words like ocean and land just from the patterns present in the dictionary and my existing knowledge of my own language and about the world?</div><div dir="auto"><br></div><div dir="auto">If you don't agree then please try the test I suggested, giving me one of those constants encoded using "alien symbols".</div><div dir="auto"><br></div><div dir="auto">Jason </div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div dir="ltr"><br>-gts</div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
</blockquote></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div></div>