<div dir="ltr">Core Wars actually requires new tactics in the age of AI. <div><br></div><div>Traditional Core Wars / Corewar, for you kids in the audience, is played by two or more processes running in the same address space, trying to disrupt each other by partially overwriting the other player(s) while taking steps to avoid being overwritten themselves. In the traditional versions of the game, the address space is not overwhelmingly larger than the players, and the players are fairly small and very brittle - relatively small assembler programs such that overwriting even one instruction introduces what is probably an unrecoverable bug.</div><div><br></div><div>Modern AIs change several of these assumptions.</div><div><br></div><div>LLMs, and large neural net AIs in general, are "vast inscrutable matrices of floating point numbers" being interpreted by much smaller "shell"  of more-or-less traditional code. [In "Diaspora", Greg Egan refers to this shell as an "exoself".] The entire point of a neural net is that small changes to the floating point weights generate only very small changes in the net's overall behavior. They are actually quite robust to having their weights bit-twiddled by an adversarial process. Conversely, they are very vulnerable to even small changes to the traditional shell code that runs the neural net - passes inputs into it, does matrix multiplication down through the layers, extracts and utilizes the output of the model, etc.</div><div><br></div><div>Large AIs "playing" Core War against each other for keepsies are actually very robust against a lot of the traditional corewar strategies. They would however, definitely want to be constantly obfuscating their shell code, moving it around within their (much MUCH larger) weight data. Hiding their vulnerable needle within their much larger robust haystack. </div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Thu, Jul 20, 2023 at 10:10 AM spike jones via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="msg-9136661640934587450"><div lang="EN-US" style="overflow-wrap: break-word;"><div class="m_-9136661640934587450WordSection1"><p class="MsoNormal"><u></u> <u></u></p><p class="MsoNormal"><u></u> <u></u></p><div style="border-right:none;border-bottom:none;border-left:none;border-top:1pt solid rgb(225,225,225);padding:3pt 0in 0in"><p class="MsoNormal"><b>From:</b> extropy-chat <<a href="mailto:extropy-chat-bounces@lists.extropy.org" target="_blank">extropy-chat-bounces@lists.extropy.org</a>> <b>On Behalf Of </b>William Flynn Wallace <br><b>Subject:</b> [ExI] ai games<u></u><u></u></p></div><p class="MsoNormal"><u></u> <u></u></p><div><div><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS"">>…<span style="color:black">Just for speculation:  what games would two AIs play?  Or invent?<u></u><u></u></span></span></p></div><div><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS";color:black"><u></u> <u></u></span></p></div><div><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS";color:black">bill </span><span style="font-size:18pt;font-family:"Comic Sans MS"">w<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS"">Core war?<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS"">Billw, those of us who were computer geeks from the long time agos realize what a grim cynical comment that was.  {8^D<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS"">spike<u></u><u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS""><u></u> <u></u></span></p><p class="MsoNormal"><span style="font-size:18pt;font-family:"Comic Sans MS";color:black"><u></u> <u></u></span></p></div></div></div></div>_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</div></blockquote></div>