<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote gmail_quote_container"><div dir="ltr" class="gmail_attr">On Sun, Aug 3, 2025 at 1:40 PM Will Steinberg via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">But why are you acting like the upload scenario guarantees some kind of utopia?</div></blockquote><div><br></div><div>Everyone's idea of utopia is different. But what we are talking about (generally) is that in the long-term future, intelligence and consciousness gain control over nature. The question then, is what is the most logical application of that intelligence and consciousness when all of nature has been subdued and the best physically possible technologies have been engineered?</div><div><br></div><div>To me, this question applies whether it is humans or machine descendents who contemplate it.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">  Minds will expand to fill the niche, they will become something far larger and different from Homo sapiens. </div></blockquote><div><br></div><div>Quite possibly. And I acknowledged this when I said "human-level minds" rather than "human minds", as well as in my first e-mail on this thread, which questioned whether it is better for there to be a smaller population of very big minds, vs. a much greater population of smaller minds (or any combination between).</div><div><br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"> There WILL be limited resources, because the brain itself is finite. </div></blockquote><div><br></div><div>I agree there are limited resources, which was the point I raised in my first e-mail.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"> No matter how big it is, people will expand, especially because they will have expanded tools.</div></blockquote><div><br></div><div>I think there are diminishing returns. The utility of a big brain lies in being better able to predict the future. But the future is chaotic so it takes an exponential increase in computing power to get a marginal linear improvement in forecast capability. Is there more good in one 300 IQ person living a good life, or in 10 more average people living good lives, or we could consider even 1,000 dogs living their best lives. Is there more utility and value in one jupiter brain, or in the myriads of simpler individuals who might exist in its place?</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><br></div><div dir="auto">The only protection against this is encoding proscriptions from above.  But that is another problem, it’s the agency problem (the vulnerability of going into a computer where you truly have no control and could be shut off by the overseers) compounded.  And of course, rules are meant to be broken, and with superintelligent minds, it will always be a race between breaking rules and making new ones.</div><div dir="auto"><br></div><div dir="auto">I think that believing uploading leads to a utopia is incredibly naïve.  Have you met people?</div></blockquote><div><br></div><div>I never mentioned uploading or utopia. My focus throughout this thread has been on the question of the optimal way to apportion time and computing resources to minds when we have the technological capacity to apportion them however we wish. It's not an obvious conclusion to me that immortality, or smaller numbers of big brains are ideal, as they both serve to limit the total number of unique minds that can come into being. Should a city of a million people be sacrificed so that one person can live 70 million years? I'm not sure many think that's a fair bargain.</div><div><br></div><div>Jason</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Aug 3, 2025 at 1:34 PM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Aug 3, 2025 at 10:29 AM Will Steinberg via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">Well, the electricity and materials and maintenance used to upkeep the computer still has value.</div></blockquote><div><br></div><div>Those things only have "instrumental value." They contain no "intrinsic value" in and of themselves.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto">  People don’t tend to maintain giant expensive things for free</div></blockquote><div><br></div><div>To what end are all the materials, energy and computing resources, if not used to eventually create intrinsic value (which is only found in states of consciousness)?</div><div><br></div><div>If we had a Matrioshka brain would you use it to mine bitcoin until Sol ran out of fuel, or would you use it to generate conscious experiences for a population of 10^24 human-level minds for 10^10 years?</div><div><br></div><div>In my view it isn't a question of free, but of: what does one do with all those resources once one has them? The choice seems pretty clear to me.</div><div><br></div><div>Once all technical problems are solved (we should reach the best physically possible technology within 200 years at current rates) then there is very little to be gained in the pursuit of things that are only of practical utility. There is only energy, and putting it towards useful computation. What is a useful computation when all practical survival related and efficiency related problems are solved? In my view, it is then only in maximizing conscious life.</div></div></div><div dir="ltr"><div class="gmail_quote"><div><br></div><div>Jason</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Aug 3, 2025 at 2:46 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div>Having a meaningful enjoyable life is its own value.</div><div dir="auto"><br></div><div dir="auto">Why do people donate to charity? Why do we talk about creating systems to host quadrillions of uploaded minds? Because the more positive conscious experiences that are created, the better. In fact, positive conscious experiences are the only intrinsically good things there are.</div><div dir="auto"><br></div><div dir="auto">Accordingly, trade with uploaded beings may not be necessary. Afterall, what good are resources that aren't put towards the creation of positive conscious experiences?</div><div dir="auto"><br></div><div dir="auto">In my view they are wasted.</div><div dir="auto"></div></div><div dir="auto"><div dir="auto"><div dir="auto"><br></div><div dir="auto">Jason </div><br><br><div class="gmail_quote" dir="auto"><div dir="ltr" class="gmail_attr">On Sun, Aug 3, 2025, 12:05 AM Will Steinberg via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">That's crazy though, there's not infinite value inside the system producible by humans.   Value on Earth mainly comes from the low-entropy energy of the sun and the resources it is used to arrange.  What does the mind-system produce to trade with the OUTSIDE?  Intellectual pursuits?  Writing?  Won't the AI be able to do that?<div><br></div><div>If you can't provide resources, what can you do?</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Fri, Aug 1, 2025 at 6:41 AM Ben Zaiboc via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">There's an assumption here that I think may be false, and if it is, it <br>
changes the argument completely.<br>
<br>
Why assume that the infrastructure to host an individual mind has to be <br>
outside the control of the individual?<br>
<br>
The ability to create an entire film or a symphony in your bedroom with <br>
a laptop at virtually no cost except your time would have been thought <br>
outrageous and impossible not long ago. Now it's commonplace.<br>
<br>
The assumption was that a complex thing like a film has to involve <br>
hundreds of individuals, millions of pounds, and a vast array of <br>
equipment to make. Then someone came along and made The Blair Witch <br>
Project on a smartphone. Admittedly, it was a fairly crappy film, but it <br>
broke the assumption. The same thing with music. It used to take <br>
professional recording studios and a crowd of audio experts to make a <br>
record. Now spotty teenagers are able to create (technically) <br>
high-quality music with a laptop, some free software and a pair of <br>
headphones. Most of it might not be worth listening to, but that's not <br>
the point.<br>
<br>
The point is that technology advances on an accelerating curve, that <br>
puts previously inconcievable abilities into the hands of ordinary people.<br>
<br>
I'm pretty confident that once uploading technology matures (assuming <br>
it's possible at all), it won't be long before it becomes cheap and <br>
easy, no matter how hard and expensive it was to develop in the first <br>
place. I also expect the physical sizes of the systems will become much <br>
smaller than they need to be at first. There's nothing new in any of <br>
this, we've been seeing it happen for quite a few decades now, in all <br>
sorts of other technologies.<br>
<br>
This means that at some point, ordinary people will be able to upload <br>
themselves into a system that they own, that they can control, that has <br>
the ability to operate real-world agencies (robotic bodies, etc.), and <br>
can connect to a network of other virtual spaces.<br>
<br>
I used to be a fairly intense user of Second Life, some time ago (before <br>
Linden Labs got too heavy-handed with it), and my avatars, that I <br>
usually created myself, used to visit virtual spaces that other people <br>
had created. I had a job in there, earning money, interacted with people <br>
from all over the world, had a blast making scripted objects, for myself <br>
and other people, and had lots of interesting experiences, some of which <br>
would only be possible in a virtual world. All - within some practical <br>
limits - under my control, using my own computer, at no cost other than <br>
my internet connection and electricity. When the owners of the software <br>
that made it all possible started changing things, generally making life <br>
harder for people, I stopped using it and found another similar system <br>
created by more liberal-minded developers.<br>
<br>
This seems to me to be a fairly close analogy to what uploading could be <br>
like. No doubt there will be efforts to create walled gardens, <br>
controlled by big corporations, governments will try to interfere and <br>
censor, and there will be what Second Life used to call 'griefers', <br>
individuals who just wanted to be destructive and cause trouble for <br>
people, but these are all just part of life, challenges to be overcome <br>
as and when we meet them.<br>
<br>
"if we live in a giant computer..."<br>
<br>
Rather than the common picture of people being helpless pawns in a vast <br>
machine that they have no control over, I imagine a vast network of <br>
autonomous individuals, each one in their own independent container, and <br>
connecting as and when they want to billions of others, in common <br>
virtual spaces that they build for themselves. So it becomes "if we live <br>
in our own computers..."<br>
<br>
Which is not so different to what we have now, really, with each person <br>
in their own brain, in their own body that they have a limited degree of <br>
control over (biology being what it is), communicating with other people <br>
as and when they want to and need to. We are responsible for keeping <br>
ourselves healthy, sometimes with the help of a healthcare system, and <br>
for providing ourselves with shelter and food. Being an upload shouldn't <br>
be that different in principle, just the actual items and actions we <br>
need will be different. Antivirus software updates instead of <br>
vaccinations, etc.<br>
<br>
The real difference is, as an upload, your possibilities are much <br>
greater, and the downsides are fewer.<br>
<br>
Provided we do it in the right way.<br>
But, as always, there will be many ways. There will be the equivalents <br>
of Microsoft, Apple and Google, and the whole world of proprietary <br>
software, then there will be the equivalents of Linux and BSD, and the <br>
world of free software. There will be people who live in 'a giant <br>
computer', and those who live in their own individual computers.<br>
<br>
I suppose it should be said that these 'computers' won't be like the <br>
computers we have now. Max Headroom will never be a real thing. The term <br>
'processing space' might be better, and hopefully makes the similarity <br>
to biological brains clearer.<br>
<br>
To go back to Bill w's original question, "How will you pay for your <br>
upkeep?", there are probably as many answers as there are to the same <br>
question asked of biological people. In Second Life, I used to teach <br>
people to make furniture and jewellery. I expect there will be plenty of <br>
job opportunities for uploads, if that's what they need or want.<br>
<br>
-- <br>
Ben<br>
<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" rel="noreferrer" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div></div>