<div><br></div><div>On Mon, Mar 27, 2023 at 3:02 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</div><div dir="auto"><br><div class="gmail_quote" dir="auto"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="auto"><div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div><div class="gmail_quote"><div dir="auto">It certainly gives us that impression, but on careful analysis of what is actually going on, we can see that is the human operator who attributes meaning to those symbols. GPT is merely very good at arranging them in patterns that have meaning to *us*. </div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto">I think that's why this particular example is so important to escape that trap, because mathematical structures are objective. Which vertices are connected by which edges isn't something that can be faked or misinterpreted, it simply is.</div></div></blockquote><div dir="auto"><br></div><div dir="auto">I thought I had already mentioned that as Giovanni pointed out correctly, mathematics is a kind of language. The fact that GPT can translate English words about mathematical relationships into the language of mathematics is certainly impressive, but it doesn’t “escape that trap.” </div><div dir="auto"><br></div><div dir="auto">When ChatGPT 3.5 first went online, I saw on twitter several examples of how it had failed to make those translations correctly, and I understand GPT-4 is much better at it, but it is still merely manipulating the symbols of English and Math.</div><div dir="auto"><br></div><div dir="auto">-gts</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;padding-left:1ex;border-left-color:rgb(204,204,204)"><div dir="auto"><div dir="auto"></div></div></blockquote></div></div>