<div dir="ltr"><div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><span style="font-family:Arial,Helvetica,sans-serif">On Wed, Feb 11, 2026 at 10:29 AM Jason Resch via extropy-chat <</span><a href="mailto:extropy-chat@lists.extropy.org" target="_blank" style="font-family:Arial,Helvetica,sans-serif">extropy-chat@lists.extropy.org</a><span style="font-family:Arial,Helvetica,sans-serif">> wrote:</span></div></div><div class="gmail_quote"><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><i><font size="4" face="georgia, serif"> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>consider that the brain only gets neural spikes, from different nerves at different times.These are just symbols, bits.</font></i></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Yes<span class="gmail_default" style="">, and a neuron cell does not understand how the external physical world works; the entire individual does but he can directly interact with that world.  </span> </b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>And yet, from these mere patterns of firings, the brain is able to construct your entire world.This test is no less magical than what LLMs can do from "just text".</i></font></div></div></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b>I don't think either one is doing anything "magical", it's just that I don't have a deep understanding of how they are able to do what they do, and most of the top researchers at the AI companies admit that they don't either.</b></font></div><div class="gmail_quote"><font size="4" face="tahoma, sans-serif"><b><br></b></font></div><div class="gmail_quote"><br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default">>> OK, I can see how you might be able to determine that a book written by ET was about arithmetic, and that some of the symbols represented integers and not letters, and that a base 10 system was used. But I don't see how you could use the same procedure to determine that another book was about chemistry unless you already had a deep understanding of how real world chemistry worked, and I don't see how you could obtain such chemical knowledge without experimentation and by just looking at sequences of squiggles. But apparently there is a way. </span></b></font></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>A student can learn a great deal from reading a chemistry text books, without ever entering a lab and taking out a beaker.</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif" style=""><b>Yes but before the average student has even open <span class="gmail_default" style="">a</span> chemistry book he has already been exposed to nearly two decades of real world experience and has an intuitive feel for things like mass, velocity<span class="gmail_default" style="">, heat</span><span class="gmail_default" style=""> and</span> position<span class="gmail_default" style="">,</span> so he c<span class="gmail_default" style="">an</span> understand what the book is saying, but that would not be the case for an AI that has never observed anything except a sequence of squiggles and understood almost nothing except arithmetic and the laws of logic. It might have an intuitive understanding of time but not of space, <span class="gmail_default" style="">and </span>from such a humble beginning I don't understand how anything could deduce Newtonian Physics, much less Quantum Physics which would be required to understand modern chemistry. </b></font></div><div><b><font face="tahoma, sans-serif" size="4"><span class="gmail_default" style=""> </span> </font></b></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><div><font face="tahoma, sans-serif" size="4"><b><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">>> </span>The existence of isotopes<span class="gmail_default"> would greatly complicate things, for example we know that the element Tin has 10 stable isotopes and 32 radioactive ones, they all have identical chemical properties but, because of neutrons, they all have different masses. </span></b></font></div></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>The periodic table, and Wikipedia's article on each element, lists atomic number (number of protons) in addition to atomic weights.</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>But how could the poor AI<span class="gmail_default"> make sense out of that Wikipedia article if it had no understanding of what the sequence of squiggles "w-e-i-g-h-t-s" even means?  I don't deny that it can understand what it means, I just don't know how. </span> </b></font></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"></div></div></blockquote><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default">>> Perhaps Mr. Jupiter Brain </span>could deduce the existence of the physical world<span class="gmail_default"> starting from nothing but arithmetic (but I doubt it) however it is certainly far far beyond the capability of any existing AI, so they must be using some other method. I just wish I knew what it was. </span></b></font></div></div></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>Are you familiar with the universal approximation theorem?</i></font></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Yes,<span class="gmail_default"> a neural network can model any continuous function with arbitrary precision, but the vast majority of continuous functions do not model anything fundamental in either Newtonian or Quantum Physics, so</span></b></font><b style="font-family:tahoma,sans-serif;font-size:large"><span class="gmail_default"> how does an AI differentiate between those that do and those that don't? </span> </b></div><br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><font size="4" face="georgia, serif"><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>"What does it mean to predict the next token well enough? [...] It's a deeper question than it seems. Predicting the next token well means that you understand the underlying reality that led to the creation of that token."</font></div><div dir="auto"><font size="4" face="georgia, serif">-- Ilya_Sutskever (of OpenAI)</font></div><div dir="auto"><a href="https://www.youtube.com/watch?v=YEUclZdj_Sc" target="_blank"><font size="4" face="georgia, serif">https://www.youtube.com/watch?v=YEUclZdj_Sc</font></a></div></div></blockquote><div><br></div><font size="4" face="tahoma, sans-serif"><b>Ilya Sutskever certainly knows a hell of a lot more about this than I do so maybe he's right.</b></font></div><div class="gmail_quote"><br></div><div class="gmail_quote"><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style=""> John K Clark</span><br><br> </b></font><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><br></div></div></blockquote></div></div><div dir="auto"><br></div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default"> By chance you might be using the best possible compression algorithm on your data, but there's no way to prove to yourself or to anybody else that you are.</span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default"><br></span></b></font></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default">  John K Clark</span></b></font></div><div><br></div><div><br></div></div></div></div></blockquote></div></div></div>
</blockquote></div></div>
</div>