<div dir="ltr">Gordon,<div>Your analogy of the mirror is both right (but not in the way you intended) and also extremely wrong and unfair to this group.<br>You are talking to a group of people that are among some of the best experts in the relevant fields of this discussion: neuroscience, computer science, physics, biology and<b> almost everybody disagrees with you. </b><br><br>You are a smart person but you don't have the background and knowledge these people have in these areas. I'm pretty sure you don't know how to code for example or if you do it is very limited experience. <br>But you stated that many of us look at the mirror and as cats we think there is another cat.<br><b>That basically is an insult because the reason the cat doesn't recognize itself is because notwithstanding our affection to this species they are relatively dumb and they don't pass this cognitive test (basically just some birds and primates do). </b><br><br>So you are insulting not just me but most of the people in this chat list given our position that there is something there. <br><br>We gave you many arguments as to why we are impressed with these NLM. Jason was very patient, for example, and gave you a point by point breakdown of why the linguist you mentioned is wrong in her analysis (most linguists have no clue how these NLM work because they don't have the technical background or don't read the relevant literature, probably most of them do not code either). <br><br>Others and I have also pointed out to you repeatedly how the system demonstrates emergent properties that cannot be predicted by the basic elements that make up these NLMs. I have referenced the papers on the emergence of the theory of mind and the paper that discusses the structural and functional analogy between current NLMs and the brain anatomy of the language processing areas of the brain (that paper explains both why NLM are so good in processing language but also why they are limited in other cognitive areas). Others have pointed out the exhaustive paper where several cognitive tests were applied to the different generations of GPT and concluded the latest one shows signs of AGI. <br><br>You instead have used trite arguments from preconceived ideas (mostly based on some religious view about intelligence and consciousness) that are not adequate in this case because nobody knows how these system really work (we do know their general architecture that you or the linguist you quoted seem not to be aware of) but not how exactly this architecture is used to produce the outputs we observe. But we recognize the amazing capabilities of these NLMs and how they can do so much with so little and I in particular see how it is now a matter of quantity and not quality to reach true AGI. We are about 2 orders of magnitude away in terms of the number of parameters similar to what a human brain has and that can be achieved in only 2 years given the pace of evolution of these systems. <br>Nobody is saying these systems are already conscious but that they demonstrate signs that are what you would expect in a true and fully conscious AGI system. We are not far, that is the basic claim. <br><br>The part where your analogy is right (even if that was not your intended scope) is that indeed there is a self reflection in the mirror that these NLMs actually are. They allow us to reflect on our minds and what intelligence, meaning, consciousness may be. We have looked for a long time for intellectual companionship beyond our species (this why the fascination with aliens for example) and finally we are close to creating an artificial mind that is similar but not identical to ours. <br><br>Also another way to see what is happening is that the AI is not separated from us but an integral part of us. The intelligent system is not just the isolated AI but the AI interacting and working with us. It is in a sense an extension of our minds. I see this already happening when I interact with GPT-4. It is a dialogue, I ask a question or explore a topic and many different ideas are presented and I elaborate on them and GPT-4 gives me different angles or information I was not aware of before. It is much better interaction and discussion I may have with other humans and it is not bound by worries about taking time from the other person or staying on a particular topic of interest and so on. It is like discussing with a different part of myself that has access to a lot of information I may not have access to. Yes, it is a mirror, it is me reflecting on me but in a completely different way you meant. But you know every intelligence and consciousness is a mirror of other minds, a lover is a mirror of ourselves too for example. <br>But your intended use, that was basically saying we are all stupid because we don't see ourselves in the mirror and instead we think there is a ghost in the machine it is utter bs. <br>Giovanni <br><br><br><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Mar 31, 2023 at 7:40 AM Gadersd via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">> There’s nobody there, Gio. It’s just software<br>
<br>
There’s nobody there. It’s just particles.<br>
<br>
> On Mar 31, 2023, at 6:47 AM, Gordon Swobe via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br>
> <br>
> <br>
> People like my fried Giovanni are looking in the mirror and think they see another cat.<br>
> <br>
> There’s nobody there, Gio. It’s just software.<br>
> <br>
> -gts<br>
> _______________________________________________<br>
> extropy-chat mailing list<br>
> <a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
> <a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>