diff --git a/backend/open_webui/env.py b/backend/open_webui/env.py index 9bdfb0012..95549896a 100644 --- a/backend/open_webui/env.py +++ b/backend/open_webui/env.py @@ -54,6 +54,9 @@ else: DEVICE_TYPE = "cpu" +if torch.backends.mps.is_available() and torch.backends.mps.is_built(): + DEVICE_TYPE = "mps" + #################################### # LOGGING ####################################