<div dir="ltr"><div dir="ltr"><div class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></div></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Sun, Apr 12, 2026 at 6:22 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div><i><font face="georgia, serif" size="4"> <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>even with knowledge of the control flow and setting debugging break points, knowing what methods may be called isn't always trivial. Consider this block of code:</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4"><br></font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">x = 4;</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">while (true) {</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">   if (isGoodbachCounterExample(x)) { break; }</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">   x += 2;</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">}</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">print x;</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">foo();</font></i></div><div dir="auto"><i><font face="georgia, serif" size="4"><br></font></i></div><div dir="auto"><i><font face="georgia, serif" size="4">We don't know if foo() will ever be called because mathematicians don't yet know whether there exist any counter examples to Goldbach's conjecture.</font></i></div></div></blockquote><div><br></div><div><font size="4" face="tahoma, sans-serif"><b>Even if there are no<span class="gmail_default" style=""> </span>counter examples<span class="gmail_default" style=""> there might be no way we could ever know that. According to Turing, </span>Goldbach's <span class="gmail_default" style="font-family:arial,helvetica,sans-serif">C</span>onjecture<span class="gmail_default" style=""> could be true and thus contain no counter examples, but there could also be no way to prove it is true in a finite number of steps. Even worse in general there's no way a conjecture could be sorted into 2 categories: </span></b></font></div><div><span class="gmail_default" style=""><font size="4" face="tahoma, sans-serif"><b><br></b></font></span></div><div><span class="gmail_default" style=""><font size="4" face="tahoma, sans-serif"><b>1) Conjectures that can be proved to be true or shown to be false.  </b></font></span></div><div><span class="gmail_default" style=""><font size="4" style="" face="tahoma, sans-serif"><b>2) Conjectures that are either false or true but unprovable. </b></font></span></div><div><span class="gmail_default" style="font-family:arial,helvetica,sans-serif"><br></span></div><div><font size="4" face="tahoma, sans-serif"><b><span class="gmail_default" style="">And if </span>Goldbac<span class="gmail_default" style="">h is not in category #2 there are an infinite number of similar conjectures that are. So it's possible that even Mr.Jupiter Brain will for eternity be trying, unsuccessfully, to find a proof that </span>Goldbac<span class="gmail_default" style="">h is correct; and also be grinding through huge even numbers looking for one that is not the sum of two prime numbers to prove that Goldbach is incorrect, and be unsuccessful in that endeavor too.</span></b></font></div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"></blockquote></div></div><div dir="auto"><font size="4" face="georgia, serif"><i><span class="gmail_default" style="font-family:arial,helvetica,sans-serif">> </span>The saving grace is that it seems to require a higher intelligence to find a bug than the intelligence required to introduce a subtle one that is unseeable by that lower intelligence. So once we use the current generation of AI to harden software in common use, it will require greater and greater leaps in AI to find exploitable bugs, and assuming the latest generation of AI is always put to task to fix things before being made available to break things then we might enter an era of stability.</i></font></div></div></blockquote><div><br></div><div><b><font size="4" face="tahoma, sans-serif">Maybe,<span class="gmail_default" style=""> b</span>ut it's almost always easier to break something than it is to protect something from breakage.<span class="gmail_default" style=""></span> And are you sure that those higher intelligent bug fixing<span class="gmail_default" style=""></span>AIs<span class="gmail_default" style=""> have only our best interest at heart and don't have an agenda of their own? </span></font></b></div><div><b><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style=""><br></span></font></b></div><div><b><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style="">John K Clark</span></font></b></div><div><b><font size="4" face="tahoma, sans-serif"><span class="gmail_default" style=""><br></span></font></b></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><br>
</blockquote></div></div>