<div dir="auto">If you can't change the code to be evil it really can't be characterized as open source. <div dir="auto"><br></div><div dir="auto">-Kelly</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Sun, Jul 28, 2024, 4:22 PM BillK via extropy-chat <<a href="mailto:extropy-chat@lists.extropy.org">extropy-chat@lists.extropy.org</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">On Sun, 28 Jul 2024 at 21:52, Keith Henson <<a href="mailto:hkeithhenson@gmail.com" target="_blank" rel="noreferrer">hkeithhenson@gmail.com</a>> wrote:<br>
><br>
> I don't know how this could be done.  I doubt it is possible, but I<br>
> will certainly be interested if you have any ideas about it.  I<br>
> suppose I could see having a camera on every kid in a basement with a<br>
> computer, but where are you going to get the people to watch what the<br>
> kid is doing?<br>
><br>
> Keith<br>
> _______________________________________________<br>
<br>
<br>
Meta has built-in security checks in Llama 3.1 which should catch<br>
users customisation which contravenes Meta's Terms of Use.<br>
However, it looks as though a malicious user might be able to make<br>
modifications (breaking the Terms of Use) that could enable Llama 3.1<br>
to bypass these checks and behave harmfully. We'll have to wait and<br>
see what the hackers do and how Meta reacts.<br>
BillK<br>
-----------------<br>
Meta has integrated several safety tools into Llama 3.1 to prevent misuse:<br>
Llama Guard 3: This tool moderates both input and output to detect and<br>
prevent harmful content, including responses that could facilitate<br>
cyberattacks<br>
Prompt Guard: This feature protects against malicious prompts that<br>
could manipulate the model into producing harmful outputs<br>
Code Shield: This tool filters insecure code suggestions and ensures<br>
secure command execution, mitigating the risk of the model being used<br>
to write or execute malicious code<br>
-------------------<br>
_______________________________________________<br>
extropy-chat mailing list<br>
<a href="mailto:extropy-chat@lists.extropy.org" target="_blank" rel="noreferrer">extropy-chat@lists.extropy.org</a><br>
<a href="http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat" rel="noreferrer noreferrer" target="_blank">http://lists.extropy.org/mailman/listinfo.cgi/extropy-chat</a><br>
</blockquote></div>