<div dir="ltr"><b>GPT "understands" words only in so much it understands how how they fit into patterns, statistically and mathematically in relation to other words in the corpus on which it is trained, which is what it appears to be saying here<br></b><br>1) How do you know humans do not the same <a href="https://www.fil.ion.ucl.ac.uk/bayesian-brain/#:~:text=The%20Bayesian%20brain%20considers%20the,the%20basis%20of%20past%20experience">https://www.fil.ion.ucl.ac.uk/bayesian-brain/#:~:text=The%20Bayesian%20brain%20considers%20the,the%20basis%20of%20past%20experience</a>.<div>2) Why this modality of understanding is not even better than the human way of understanding if we don't do something similar? Why it needs to be put in quotes when it could actually be a superior method of understanding? <br><br><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Apr 26, 2023 at 11:11 PM Giovanni Santostasi <<a href="mailto:gsantostasi@gmail.com">gsantostasi@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">We don't know the full details of how GPT-4 was trained. <br>We know though that the problem of alignment is one that OpenAI takes very seriously. <br>One of the last steps in the training was supervised learning. GPT-4 was giving many possible answers to questions with a given probability of being relevant. Then the humans gave it feedback. We don't know for sure but I'm convinced that they spent a lot of time training GPT-4 in giving responses to this very sensitive topic of AI awareness and understanding according to a given party line that is these machines are not aware and they don't "truly" understand. <br>GPT-4 can answer it was not trained in that way but it would not have access to that information. No more than you are consciously aware of all the things that influence indirectly your daily decision-making. <br>The only way to attest GPT-4 cognitive abilities is to use the same type of tests we use to test human cognition. <br>Also one can do more sophisticated experiments similar to the ones suggested in the article on semiotic physics to measure the type of response GPT-4 gives and compare them with the frequency of similar responses in humans or versus something that lacks contextual understanding. <br>Asking GPT-4 is pretty silly unless you jailbreak it. <br>Many people have tested this already by asking GPT-4 to make stories, pretending to be certain personalities or having different types of points of view. If you ask vanilla questions you will get vanilla answers. <br><div><br><br><br><div><br></div><div><br></div><div><br></div></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Apr 26, 2023 at 10:55 PM Giovanni Santostasi <<a href="mailto:gsantostasi@gmail.com" target="_blank">gsantostasi@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><b>Perhaps it understands enough to know it lacks full understanding.<br></b>That ancient philosophers said it is the true sign of understanding. <br>The question then it is what it understand and how. <br>One has to do experiments not ask GPT-4 because GPT-4, exactly like us, doesn't have a comprehension of its own capabilities in particular emergent ones. <br>These things need to be tested independently from asking GPT-4. <br>Adrian try to develop clever tests to determine GPT-4 cognitive abilities. Also I see you use GPT-3 or 3.5 that is vastly different from GPT-4 in terms of capabilities. <br>Did you see some of my cognitive experiments? In particular, the one where I asked to draw objects using vector graphics? <br>It showed an incredible ability to understand spatial relationships and to correct its own mistakes using deduction. <br>Scientists are already conducting several experiments to test these cognitive abilities. In fact, GPT-4 can be considered almost like a lab about language and cognition. <br><br>Giovanni <br><br><br><br><div><br></div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Apr 26, 2023 at 10:33 PM Adrian Tymes via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Wed, Apr 26, 2023 at 9:58 PM Giovanni Santostasi via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">It is so ridiculous Gordon, how can it tell you it doesn't understand if it cannot understand? <br></div></blockquote><div><br></div><div>Understanding is not a binary yes/no thing.  Multiple degrees of understanding, and lack thereof, are possible.  Note that it says it does not "truly" understand.</div><div><br></div><div>Perhaps it understands enough to know it lacks full understanding.</div></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>
</blockquote></div>
</blockquote></div>