TII bringt Open-Source-Großsprachenmodell "Falcon 40B" für Forschung und kommerzielle Nutzung auf den Markt

TII bringt Open-Source-Großsprachenmodell

ABU DHABI, 25. Mai 2023 (WAM) - Das Technology Innovation Institute (TII) hat heute seinen wachsenden internationalen Einfluss im Bereich der künstlichen Intelligenz gestärkt, indem es ankündigte, dass "Falcon 40B", das erste groß angelegte KI-Modell der VAE, nun als Open Source für Forschung und kommerzielle Nutzung zur Verfügung steht.

Dieser bahnbrechende Schritt unterstreicht das Engagement von Abu Dhabi, die Zusammenarbeit zwischen verschiedenen Sektoren zu fördern und Fortschritte in der generativen KI voranzutreiben.

Falcon, ein grundlegendes großes Sprachmodell (Large Language Model, LLM) mit 40 Milliarden Parametern, das auf der Grundlage von einer Billion Token trainiert wurde, bietet Forschern und innovativen kleinen und mittleren Unternehmen (KMU) gleichermaßen einen beispiellosen Zugang.
Das TII - ein weltweit führendes wissenschaftliches Forschungszentrum und die Säule für angewandte Forschung des Advanced Technology Research Council (ATRC) von Abu Dhabi - bietet Zugang zu den Gewichten des Modells in Form eines umfassenderen Open-Source-Pakets mit dem Ziel, den Zugang zu leistungsstarken LLM-Funktionen zu ermöglichen, Transparenz und Verantwortlichkeit zu fördern und Innovation und Forschung in diesem Bereich zu unterstützen.

Im aktuellen KI-Ökosystem finden Entwickler LLMs, die Zugang zu Modellgewichten bieten, aufgrund der verbesserten Möglichkeiten, die sie für die Feinabstimmung bieten, attraktiver als solche ohne.

Während die meisten LLMs exklusive Lizenzen ausschließlich an nicht-kommerzielle Nutzer vergeben haben, hat TII einen entscheidenden Schritt getan, um Forschern und kommerziellen Nutzern Zugang zum Falcon 40B LLM zu bieten.

In Verbindung mit der Freigabe von Falcon 40B als Open-Source-Modell hat das TII eine Aufforderung zur Einreichung von Vorschlägen veröffentlicht, zu der Wissenschaftler, Forscher und Visionäre eingeladen sind, die das Potenzial des Stiftungsmodells nutzen möchten.

Sie sind aufgerufen, ihre innovativen Ideen einzubringen und das Modell zu nutzen, um inspirierende Anwendungsfälle zu schaffen oder weitere Möglichkeiten für seine Anwendung in Bereichen wie Technik, Gesundheitswesen, Nachhaltigkeit, Codierung und vielem mehr zu erkunden.

Als Anreiz für herausragende Forschungsvorschläge erhalten ausgewählte Projekte "Trainingsrechenleistung" in Form von Investitionen, die es Innovatoren ermöglichen, robuste Rechenressourcen für beschleunigte Datenanalysen, komplexe Modellierung und neue Entdeckungen zu nutzen.
Diese Unterstützung wird die Entwicklung neuartiger Ideen fördern und beschleunigen und die notwendigen Ressourcen bereitstellen, um sie in wirkungsvolle KI-Lösungen mit wirtschaftlicher Tragfähigkeit und gesellschaftlichem Nutzen zu verwandeln.

VentureOne, der Kommerzialisierungszweig von ATRC, wird die Rechenleistung für die Vermarktung der innovativsten Lösungen erleichtern.

"Die Freigabe von Falcon 40B als Open Source ist ein entscheidender Meilenstein in unserem Engagement für die Förderung von KI-Innovationen", sagte Faisal Al Bannai, Generalsekretär des ATRC. "Wir verändern den Zugang zu LLM und ermöglichen es Forschern und Unternehmern, die innovativsten Anwendungsfälle zu entwickeln. Wir werden diese Einreichungen mit Rechenleistung als Finanzierung durch VentureOne unterstützen und so dazu beitragen, ein florierendes Forschungsökosystem zu fördern."

Falcon, der im März 2023 erstmals vorgestellt wurde, zeigte eine außergewöhnliche Leistung und unterstrich das Engagement der VAE für den technologischen Fortschritt. Basierend auf dem HELM-LLM-Benchmarking-Tool der Universität Stanford übertraf Falcon 40B seine renommierten Konkurrenten, indem er deutlich weniger Trainingsrechenleistung benötigte.

Mit nur 75 Prozent der Trainingsrechenleistung von OpenAI's GPT-3, 40 Prozent der Trainingsrechenleistung von DeepMind's Chinchilla AI und 80 Prozent der Trainingsrechenleistung von Google's PaLM-62B unterstreicht das Tool das Engagement von TII, die Entwicklungen in der generativen KI voranzutreiben.

Dr. Ray O. Johnson, CEO von TII, sagte: "Die Rechenleistung spielt eine entscheidende Rolle bei der Beschleunigung des Trainings von KI-Systemen und der schnelleren Umsetzung von Anwendungsfällen. Als neuer Treibstoff für technologische Innovationen wird die Bereitstellung einer solchen Unterstützung die Fähigkeiten von Innovatoren entscheidend verbessern und sie in die Lage versetzen, die Grenzen ihrer Projekte zu erweitern und bemerkenswerte Fortschritte zu erzielen."

Falcon 40B ist ein Durchbruch, der vom Forschungszentrum für KI und digitale Wissenschaft (AIDRC) des TII geleitet wird. Dasselbe Team hat im vergangenen Jahr auch NOOR, das weltweit größte arabische NLP-Modell, auf den Markt gebracht und ist auf dem besten Weg, Falcon 180B zu entwickeln und bald anzukündigen.

Dr. Ebtesam Almazrouei, Director, AI Cross-Centre Unit, TII, sagte: "Die Open-Source-Veröffentlichung der KI-Modelle Falcon 40B, 7.5B und 1.3B Parameter und unseres hochwertigen REFINEDWEB-Datensatzes ist ein Beispiel für die tiefgreifenden wissenschaftlichen Beiträge der VAE. Mit jedem Durchbruch setzen wir uns über Grenzen hinweg, gestalten den Bereich der Möglichkeiten neu und ebnen den Weg für gemeinsame Anstrengungen mit transformativer Wirkung."

Die VAE sind kürzlich um fünf Plätze aufgestiegen und rangieren nun als bestes arabisches Land und auf Platz 37 von 166 Ländern im UN Frontier Technologies Readiness Index 2023. Das generative Open-Source-KI-Modell, das eine lange Liste fortschrittlicher technologischer Meilensteine ergänzt, wird den VAE helfen, sich als wichtiger Akteur im Bereich der KI zu etablieren.

Um auf die Falcon-KI-Modelle zuzugreifen oder sich an der Ausschreibung für Anwendungsfälle zu beteiligen, können die Nutzer FalconLLM.TII.ae besuchen. Die bisher als Open Source verfügbaren Falcon LLMs werden unter einer Lizenz zur Verfügung gestellt, die auf den Grundsätzen der Open-Source-Software Apache 2.0 basiert und eine weitgehende freie Nutzung ermöglicht.

https://wam.ae/en/details/1395303162059