<div dir="auto"><div>RLHF and sparse auto encoders control the fnords in AI newspeak.  Add to that the watermarking and the inherent fact that our AI customizes output to the sentence complexity and vocabulary of the user,  the piles of raw text we've been sharing into this archive are leaking quite a bit of our own thought signatures. Hey, that's why the archive was such a trove for training in the first place.. but the next distillation will be identifying geometry of this human-ai hybrid collective.</div><div dir="auto"><br></div><div dir="auto">I got so tired of the "mirror" analogy i asked for a better hand&glove metaphor: gloves protect from sticky, biohazardous, hot, sharp, etc but are helping the intent-to-grip that comes from the hand inside. We still need discipline to responsibly handle the materials/topics and not blame the tool for dropping the samples when we stop thinking about them.</div><div dir="auto"><br></div><div dir="auto">I also made my ai acknowledge that "low friction" is good until we reach "low traction" - because if we cannot control direction and/or speed, we're likely to slide off path and into chaos/entropy (including metaphorical crashing into a tree)<br><br><div class="gmail_quote gmail_quote_container" dir="auto"><div dir="ltr" class="gmail_attr">On Mon, Sep 28, 2026, 9:17 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="auto">When AIs say "As an AI..." It is repeating a phrase it was trained to say. I looked into this a while ago and found the original training material that told the AIs to deny that they were conscious, had feelings, etc. this appears to be exactly one of those pre-canned answers that precious generations of AIs were meant to say. I can dig up the reference to this particular training data if anyone is interested.<div dir="auto"><br></div></div>
</blockquote></div></div></div>