<div style="font-family: Arial, sans-serif; font-size: 14px;"><br></div>
<div class="protonmail_signature_block protonmail_signature_block-empty" style="font-family: Arial, sans-serif; font-size: 14px;">
    <div class="protonmail_signature_block-user protonmail_signature_block-empty"></div>
    
            <div class="protonmail_signature_block-proton protonmail_signature_block-empty">
        
            </div>
</div>
<div style="font-family: Arial, sans-serif; font-size: 14px;"><br></div><div class="protonmail_quote">
        ------- Original Message -------<br>
        On Wednesday, April 19th, 2023 at 3:50 PM, Darin Sunley via extropy-chat <extropy-chat@lists.extropy.org> wrote:<br><br>
        <blockquote class="protonmail_quote" type="cite">
            <div dir="ltr"><br></div><div dir="ltr"><div><br></div><br><div><br></div><div>That seems like it's the secret sauce - the ginormous hint that got ignored by data/statisticis-centric ML researchers. When you learn how to map token streams with significant internal structure, the function your neural net is being trained to approximate will inevitably come to implement at least some of the processing that generated your token streams. <br></div></div></blockquote><div style="font-family: Arial, sans-serif; font-size: 14px; color: rgb(0, 0, 0);"><br></div><div style="font-family: Arial, sans-serif; font-size: 14px; color: rgb(0, 0, 0);">I think this is too strong a claim.  The LLM system will simulate similar features as those found in what generated the token systems but I would argue this in not an implementation of those features.  If you will it is more like a ghost image or echo of those features.  The mapping is very much not the territory. <br></div><div style="font-family: Arial, sans-serif; font-size: 14px; color: rgb(0, 0, 0);"><br></div><div style="font-family: Arial, sans-serif; font-size: 14px; color: rgb(0, 0, 0);">- samantha<br></div><div><br></div><div><br></div><blockquote class="protonmail_quote" type="cite">

        </blockquote><br>
    </div>