<div dir="ltr"><div dir="ltr"><div dir="ltr" class="gmail_attr">Gordon Swobe via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:</div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">I think ChatGPT caught most people in the world by surprise. It should give us pause to think. This is actually why I returned to Exi after something like 15 years.  Things are getting real.<br></div></blockquote></div><div dir="ltr"><br></div><div dir="ltr">We can certainly agree on this, even though I think AI might already be conscious (though I also think everything is conscious, so I see no reason why organized prosthetic human thought wouldn't also be conscious).  I think a consciousness is perhaps somehow also dependent on the consciousness who is experiencing that initial consciousness, since everything we discuss is somehow observed by consciousness.  In any case, whether or not it is conscious, it will certainly convince many, many people that it is, within a few years.  I'm really not sure how to prepare, as I said earlier.  We're hurtling towards an unavoidable obstacle here</div><div dir="ltr"><br></div><div dir="ltr"><div><div dir="ltr"><div dir="ltr" class="gmail_attr"><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="auto">Is there any debate that AI development and deployment needs regulatory oversight? That is one reason for the proposed pause.</div><div dir="auto"><br></div><div dir="auto">We have a similar situation in crypto, where I have focused most of my attention in recent years. It’s the wild wild west. Some of the most libertarian people in the community want to keep it that way — I call them cryptoanarchists — and others like me want clear regulations.</div></div></blockquote></div><div dir="ltr"><br></div><div>I don't think we have time to stop, the arms race is on.  We should focus as much as needed on developing oversight IMMEDIATELY, not in 6 months.  These companies won't stop even if they are told to stop.  It's easy enough to do in secret.  Re: crypto, I think it needs a decentralized regulation authority that governments may be party to if they wish. </div></div><div><br></div><div dir="ltr"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">I think ChatGPT caught most people in the world by surprise. It should give us pause to think. This is actually why I returned to Exi after something like 15 years.  Things are getting real.<br></div></blockquote></div><div dir="ltr"><br></div><div>Even though I disagree with a lot of your positions, I'm glad you've gotten people here talking about philosophy again.</div></div></div>