<div dir="ltr"><div dir="ltr">On Sat, Apr 29, 2023 at 11:52 AM Jason Resch via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="auto"><div dir="auto">What a terrifying time to be alive.  I don't see a plausible scenario where this all doesn't lead to unbelievable amounts of suffering (of both biological and machine consciousness.)<br></div></div></blockquote><div><br></div><div>Yes, if we aren't careful and if we don't treat these early systems with respect, something like this nightmare scenario could easily happen: <a href="https://qntm.org/mmacevedo" target="_blank">https://qntm.org/mmacevedo</a></div></div></div></blockquote><div><br></div><div>Ha, if we manage to even get there I'll be surprised.   Sorry to be such a doomer.  It is just scary to see people playing around with such grave ontological concepts as if they're just the next killer app.  Unbridled technocratic competition is going to kill us all</div></div></div>