<div dir="ltr"><div dir="ltr"><br></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Wed, Feb 22, 2023 at 11:08 PM Gadersd via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div style="overflow-wrap: break-word;">You could certainly download it if OpenAI released it open source, but you would not be able to run it on your personal computer. These models requires VERY expensive GPUs to run. The hardware cost alone runs into the millions.<br><div><br></div></div></blockquote><div><br></div><div>My understanding is that while the training of the model cost millions of dollars of computing power, that the model, once trained, can be run on a computer with perhaps several thousands of dollars of hardware (around 9 high-end graphics cards). At least this is the case for BLOOM: <a href="https://huggingface.co/bigscience/bloom/discussions/58">https://huggingface.co/bigscience/bloom/discussions/58</a></div><div>You can also rent such hardware from services like AWS, for around $5 dollars per hour, but this runs on the CPU only and is much slower.</div><div><br></div><div>Jason</div></div></div>