<div dir="auto"><div><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Sat, May 10, 2025, 9:05 AM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">The development of personal AI is becoming increasingly clear.<br>
<br>
These future AIs will do much more than merely respond to prompts.<br>
They will operate autonomously in the background, acting on your<br>
behalf and pursuing your goals with independence and competence.<br>
Your primary interface with the world will still be a device – the<br>
smartphone successor – which will host your personal AI agent.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Do you really think the entire agent will be on the 'device'?  </div><div dir="auto"><br></div><div dir="auto">I suspect the device will store personal configuration to shape the interactions - like a facemask or cosmetics for an assistant that is otherwise identical model to millions of consumers.  Sure, wealthy consumers will have smarter models but it's likely the world won't need more than three or four.</div><div dir="auto"><br></div><div dir="auto">Consider DVR: Tivo was local storage for as much content as you could afford to keep.  Then the cable boxes copied this idea.  Can't get a new device without losing content or needing to manage it.  Now the data is stored in the 'cloud' so you can upgrade the device simply by putting the account credentials on the new device. Desktop computers are difficult to move out/in, phones are easy.  I think this dependence on ubiquitous internet will grow for personal ai agents.</div><div dir="auto"><br></div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"> Your AI will be 'private' in the<br>
sense that Google, Meta, etc. won't be tracking your every<br>
transaction. But it won't be private if your device is ever seized by<br>
the authorities for any reason. The seizure reason could be quite<br>
trivial, just an excuse really. Then your life could be examined in<br>
total detail for any and every action that the authorities might<br>
decide is an offense.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">It will be as private as you were strolling around the mall before that physical experience went defunct.</div><div dir="auto"><br></div><div dir="auto">There will be no need to seize your device. The Nth Party (far beyond third party) will access the cloud version of you.  In the time it takes to understand "network error" and refresh, the digital tracks of your life will have been judged.  You might not even notice that the consequences of your infraction include fewer options in the future.  You're already in jail, the warden controls the TV because it's your only view of the outside.  Why though? Because controlling the memeplex of humanity is much easier than running the human zoo. Ultimately the results are the same.</div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><br>
Some people might just refuse these future AI assistant devices.<br>
That will make life much more difficult for them in a society where<br>
these devices become indispensable. It will also be considered very<br>
suspicious behaviour in this new form of society.<br>
What have you got to hide?<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Those outliers will still have profiles, but the details may be slightly less nuanced or just slightly lagging on updates</div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
The opposite choice is to allow the personal AI assistant to become<br>
part of your life and record 'privately' every detail. This should<br>
make populations very well-behaved and become extremely cautious<br>
in order to avoid any action that might cause offense.<br></blockquote></div></div><div dir="auto"><br></div><div dir="auto">Behaved and cautious?  That doesn't seem to be the direction.   Offense has become normalized.   The algorithm has bolstered trolls and extended their reach.  Angry react generates far more metadata than agreement.  If the purpose of the machine is to manage the overwhelming deluge of information, wouldn't that serve its purpose to generate an even more overwhelming downpour?</div><div dir="auto"><div class="gmail_quote gmail_quote_container"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
</blockquote></div></div></div>