Migrationskonzept
--
Das 2015 in AEM lancierte Videoportal der ETH (video.ethz.ch) ist in die Jahre gekommen und soll auch gemäss Vereinbarung mit ID APPS durch das Opencast-eigene Produkt Tobira ersetzt werden. Gleichzeitig soll das zuliefernde Opencast-System durch eine neue Infrastruktur abgelöst werden. Dieses Dokument soll den Migrationsprozess vom Altsystem OC-VP zur neuen Umgebung OC.TOBIRA aufzeigen.

Status Quo
--
Folgende Systeme befinden sich aktuell an der ETH im Einsatz.

<div style="font-size: 10px">

| System Name | URL Admin | URL Tobira | Bemerkungen |
| -------------- | -------------------------- | ------------------------- | ---------------------------------------- |
| OC-VP | oc-vp-admin01.ethz.ch | - | Produktivsystem Opencast Videoportal |
| OC-VP-TEST | oc-vp-admin01-test.ethz.ch | - | Testsystem Opencast Videoportal |
| OC-VP-DEV | oc-vp-admin01-dev.ethz.ch | - | Entwicklungssystem Opencast Videoportal |
| OC-AEM | oc-aem-admin.ethz.ch | - | Produktivsystem Opencast AEM / Webseiten |
| OC-AEM-TEST | oc-aem-test-admin.ethz.ch | - | Testsystem Opencast AEM / Webseiten |
| TOBIRA-TEST-OC | tobira-test-oc.ethz.ch | - | Community System Opencast |
| OC.TEST.TOBIRA | admin.test.tobira.ethz.ch | video.test.tobira.ethz.ch | Testsystem Opencast Tobira |
| OC.TOBIRA | admin.tobira.ethz.ch | video.tobira.ethz.ch <br> video.ethz.ch <br> www.video.ethz.ch | Pilotsystem Opencast Tobira |

</div>

Ziele der Migration
--
Folende Ziele werden mit der Inbetriebnahme von OC.TOBIRA verfolgt:
* Das System OC.TOBIRA wird ab dem HS2025 das produktive System für Vorlesungsaufzeichnungen und löst somit OC-VP ab.
* Mit Tobira wird das alte Videoportal auf das HS2025 abgelöst.
* Das alte Videoportal verbleibt für einen bestimmten Zeitraum unter videoarchiv.ethz.ch verfügbar.

Anforderungen an die Migration
--
Folgende Anforderungen müssen während der Migrationsphase berücksichtigt werden:

* Das System OC.TOBIRA startet als Pilot auf das FS2025. ✅
* Während dem Pilotbetrieb muss das neue Videoportal unter videong.ethz.ch erreichbar sein.✅
* Das neue Videoportal *Tobira* muss mit der produktiven Inbetriebnahme ab dem HS 2025 unter video.ethz.ch erreichbar sein. Die Adresse www.video.ethz.ch wird als Alias erfasst.
* Das alte Videoportal soll bis einschliesslich bis Ende FS26 unter videoarchiv.ethz.ch weiterhin erreichbar sein. Die Adresse www.videoarchiv.ethz.ch wird als Alias erfasst.
* Ein Fallback auf die bestehende Umgebung OC-VP muss jederzeit mit wenig Aufwand gewährleistet werden können.
* Der Datenbestand von über 80'000 Episoden muss komplett übernommen werden.
* Es werden nur die letzten 6 Semester der Vorlesungsaufzeichnungen auf dem neuen Videoportal publiziert werden.
* Dabei müssen für videoarchiv.ethz.ch die kompletten Distributionsdaten aller Videos erhalten bleiben!
* Die Aliasse oc-vp-dist-downloads und mh-vp-dist-downloads müssen im neuen System berücksichtigt werden.
* Die Migration ist dokumentiert.

Low-hanging fruits / Neuerungen
--
* Das neue System verwendet die Subdomain "tobira" (hostname.tobira.ethz.ch)✅
* Das neue System verwendet eine Authentifizierungsinfrastruktur von Switch AAI. Die Autorisierung der einzelnen User geschieht über einen Mix zwischen Switch AAI und einer middleware in Tobira selbst.✅
* Im neuen System wird nicht mehr zwischen light und heavy-workern unterschieden.✅

Ablauf der Migration bis Ende 2024
--
1. Benötigte Komponenten für OC.TOBIRA bereitstellen bis Ende April 2024.

<div style="font-size: 11px">

| Komponente | Beschreibung | Status |
| ------------------------------ | -----------------------------------------------------------------------------|--------|
| 13x VM's | 9x VM, 4x nur hostname für worker |✅ |
| 13x ACME credentials | via netcenter |✅ |
| 1x Subdomain "tobira" | via netcenter |✅ |
| 1x Mariadb für Opencast-Teil | via IT-Shop und Mail an Markus Egli. DB Explizit auf MMS Infrastruktur. |✅ |
| 1x Postgres DB für Tobira-Teil | via IT-Shop. Pgcrypto extension aktivieren lassen. |✅ |
| 1x Alias videoarchiv.ethz.ch | Alias für altes Videoportal nach der Migration |✅ |
| 1x Alias videong.ethz.ch | Temporärer Alias für OC.TOBIRA während Pilotphase um DNS Umstellung zu testen|✅ |
| 1x Shibboleth-Anbindung | Mit gleicher Konfiguration wie für OC.TEST.TOBIRA |✅ |
| 1x Speicher X | ca. 20 TB |✅ |
</div>

2. Aufsetzen OC.TOBIRA bis Ende Juli 2024.
<div style="font-size: 11px">

| Server | Beschreibung | Status |
| ---------------------------- | ------------------------------------------- |-----------------------|
| admin.tobira.ethz.ch | Admin Node Opencast |✅|
| presentation.tobira.ethz.ch | Presentation Node Opencast |✅|
| ingest.tobira.ethz.ch | Ingest Node Opencast |✅|
| video.tobira.ethz.ch | Neues Videoportal Tobira |✅|
| dist01.tobira.ethz.ch | Distribution Node 1 |✅|
| dist02.tobira.ethz.ch | Distribution Node 2 |✅|
| worker01.tobira.ethz.ch | worker light & hard |✅|
| worker02.tobira.ethz.ch | worker light & hard |✅|
| worker03.tobira.ethz.ch | worker light & hard |✅|
| worker04.tobira.ethz.ch | worker light & hard |✅|
| scheduler.tobira.ethz.ch | Anbindung an VVZ |✅|
| analytics.tobira.ethz.ch | Statistiken (matomo) |✅|

</div>

Ablauf der Migration bis Februar 2025
--
* Update von OC-VP / OC-AEM auf Opencast V.17 in KW04 inklusive neue Admin-UI und neuen Editor für das FS2025. Publikationen ausschliesslich via OAIPMH. (PM) ✅
* Via URL https://oc-vp-admin01.ethz.ch/admin-ng-frontend kann die alte Admin-UI aufgerufen werden. ✅
* Update von OC.TEST.TOBIRA und OC.TOBIRA bis vor Semesterstart. (PM) ✅
> [Information an Lehrende zum Pilotbetrieb]✅

Ablauf der Migration für Februar bis Juni 2025
--
* Einrichten einer Synchronisation zwischen OC-VP und OC.TOBIRA für alle Serien ab dem FS25, die unter video.ethz.ch/lectures veröffentlich sind. (WS)
* Jeweils über Nacht werden die in OC-VP geschnittenen Vorlesungsaufzeichnungen via OAIPMH nach OC.TOBIRA übertragen. Während dem Semester können Endnutzer Änderungen an den Metadaten auf OC.TOBIRA vorhnehmen, diese Metadaten sind aber nur temporär für den Pilotbetrieb gespeichert. Für die Datenmigration ab August 2025 sind die Daten auf OC-VP massgebend (source of truth).✅
* Auf einen Archiv-Share in OC.TOBIRA kann verzichtet werden, da die Originalaufnahmen in OC-VP bereits ins Archiv einfliessen.✅
* OAIPMH muss Informationen über den neuen Distributionsspeicherort mitliefern / generieren.✅
* Der Pilotbetrieb im FS2025 soll primär dafür genutzt werden, die Berechtigungsmatrix im Detail zu testen und offene Tickets zu fixen. (Elan & ETH)✅

>In der Osterwoche ab Montag, 21. April 2025 müssen Vorbereitungsarbeiten durchgeführt werden. Dazu wird OC.TOBIRA einen Tag ausser Betrieb genommen. Arbeiten die gemacht werden müssen sind:✅
>1. OC.TOBIRA stoppen
>2. "opencast" User löschen
>3. "opencast" User neu erstellen mit:
>a) UID 90177
>b) GID 70131
>c) GROUPS 70131
>4. Distribution Share von OC-VP auf den zwei Distributionserver von OC.TOBIRA (dist01.tobira.ethz.ch & dist02.tobira.ethz.ch) mappen
>a) nas22.ethz.ch:/fs2201/id_mms_oc-vp-prod_dist1 auf /srv/opencast/distribution
**ACHTUNG: es muss sichergestellt werden, dass die Pfade zu den Shares auf den einzelnen Servern "unique" sind.**
>5. Berechtigungen auf pilot-share anpassen.
>6. OC.TOBIRA starten

Zeitnah nach Semesterende in der Woche vom 2. - 6. Juni 2025 müssen folgende Tasks durchgeführt werden:

>7. Neue Distributionsserver in Betrieb nehmen ✅
>a) Skoor Wartungsfenster eingeben (OK)
>b) ~~CNAME oc-vp-distribution03 für dist01.tobira.ethz.ch erfassen (OK)~~
>c) ~~CNAME oc-vp-distribution04 für dist02.tobira.ethz.ch erfassen (OK)~~
>d) SSL Zertifikate vorbereitend neu erstellen
>e) Alias Name oc-vp-dist-downloads auf dist01.tobira.ethz.ch ändern (OK)
>f) Alias Name mh-vp-dist-downloads für dist01.tobira.ethz.ch ändern (OK)
>g) oc-vp-distribution03 und oc-vp-distribution04 abschalten. (OK)
>h) Ab diesem Zeitpunkt ist der neue Distributionsweg aktiv.

Ablauf der Migration für Juli 2025
--

* VPZ Firewall für neue Presentation nodes und Bibliothek einrichten lassen (OK) ✅
* Shares von CDS-112 und NAS22 auf allen Servern von OC.TOBIRA unter korrektem Pfad mounten.(KW31). Das bedeutet:✅
* Unmount von Share id_infra_tobira_pilot_tmp
* löschen von Share id_infra_tobira_pilot_tmp
* Löschen von Alias videong.ethz.ch im Netcenter.
* unter https://rr.aai.switch.ch/menu.php videong.ethz.ch löschen
* nginx Anpassen, da videong.ethz.ch nicht mehr existiert
* Pilotsystem nur noch unter video.tobira.ethz.ch erreichbar, aber ohne Mediafiles

Ablauf der Migration für August 2025
--
:::warning
Aufgrund der Prüfungssession vom Montag, 4. August bis Freitag, 29. August dürfen zu dieser Zeit keine kritischen Tasks an der bestehenden Distribution durchgeführt werden.
:::

:::danger
***Fragen die noch zu klären sind:***
1. soll rsync während Migration deaktiviert werden? ja, done
2. Was machen wir mit Serienmanagement - deaktivieren?
3. Was machen wir mit eigenen Seiten - deaktivieren?
:::

* Am **Donnerstag, 14. August 2025** finden die letzten drei Vorlesungsaufzeichnungen statt. Diese Videos müssen bis am Freitag publiziert werden! ✅
* Für die Aufnahme vom 25. August 2025 bedarf es einem alternativen Distributionsweg. Wir stellen die Aufzeichnung via Polybox zur Verfügung.
* AEM Portal Freeze für OC-VP am **Freitag, 15. August 2025**. Es können keine neuen Verarbeitungen bzw. Publikationen durchgeführt werden (Info an PZ, etc.!) ✅
* Deaktivierung des AEM Harvesters, in dem die "scheduling expression" gelöscht wird. Bei "retract" Workflow werden Preview- und Videoesszenen gelöscht, das Videoarchiv bekommt das aber nicht mit. Videos und Vorschaubilder sind nicht verfügbar. Man sieht nur ein drehender Kreis (..loading..) (OK)
* Am **Montag, 18. August 2025** wird die Datenbank von OC-VP nach OC.TOBIRA migriert. (Markus Egli, OK, WS) ✅
* systemctl stop opencast auf allen OC-VP Servern.
* Info an Markus
* evtl. benötigen wir root-Rechte wegen Triggers für OAIPMH
* Sobald erfolgt: Info an Waldemar
* Hostnamen in der DB anpassen. (WS) ✅
* Vorgängiger Check, ob alle Aliasse und Zertifikate berücksichtigt werden (OK, WS)✅
* allenfalls nutzen wir pki-frontend für video.ethz.ch, damit wir das vorbereiten können?
* Suchindex neu erstellen lassen (WS)✅
* Migrationsskripte "Stage 1" für engage Publikationen laufen lassen. Die Migrationsskripte befinden sich hier: https://gitlab.elan-ev.de/opencast/eth/engage-publication-from-oaipmh (WS)✅
1. ACL Anpassungen auf Serienebene
2. Anpassung der Untertitel (attachemnts to track)
3. Umbenennung im Archiv von */trimmed nach */source

:::danger
Zeitbedarf ~ 48h
Opencast Logs müssen gesichert werden
:::

* Migrationssktipte "Stage 2". Evtl. OAIPMH-Autopublish deaktivieren?✅
* Erstellung der engage Publikationen
* Zeitbedarf ~ 24h

* Migrationsskripte "Stage 3"✅
* Serien Seiten in Tobira gemäss VPURL1 einhängen (WS)
* Zeitbedarf: lets see. evlt. weniger als 24h
* In OC.TOBIRA werden nur noch die letzten 6 Semester (welche unter /lectures stehen) & Monitoring-Episode publiziert. Der Rest verbleibt im Archiv. Unter videoarchiv.ethz.ch müssen aber nach wie vor alle bestehenden Episoden distribuiert werden können! (WS)✅
* Bereinigung der Berechtigungen Auf OC.TEST.TOBIRA und OC.TOBIRA✅
* tobira-opencast-ansible/inventories/tobira/group_vars/all/tobira.yml
* tobira-opencast-ansible/inventories/tobira-test/group_vars/all/tobira.yml
* Gruppe "Admin"
* Melanie Koller, [e-mail]
* Olaf A. Schulte, [e-mail]
* Oliver Karl, [e-mail]
* Philipp Zumbrunnen, [e-mail]
* Michael Utz, [e-mail]
* Artan Hajrullahu, [e-mail]
* Martin Wieser, [e-mail]
* Alle SMP's und pyca's müssen auf das neue System umgebogen werden (OK)✅
* config wie lager-01
* neuen digest User nehmen!

* Planung der Recordings für das HS25 (MK)✅

Ablauf der Migration ab September 2025
--
* Publikation vom alten Videoportal unter videoarchiv.ethz.ch (MB)
* Alias video.ethz.ch löschen (Markus)
* Alias video.ethz.ch in service-id-mmu neu erstellen (OK)
* DNS challenge aktivieren und credentials in git einchecken.
* Bei SwitchAAI neuer Hostnamen video.ethz.ch freischalten am Tag der Umschaltung (OK informiert Matteo Corti)
* nginx anpassen
* Testing (alle)
* Inbetriebnahme neue Skoor - Überwachung (OK & DA)
* OnAir OC.TOBIRA auf den Montag, 15. September 2025!
* Shutdown OC-VP (OK)

Ablauforganisation
--


* Bibliothek nicht vergessen
*Nur noch highres preview
*Untertitelumstellung auf tracks.
*Role nethz umbenennen.
*Werden captions im archive gespeichert?
*Überwachung in skoor nicht vergessen!
*Was passiert mit oc-aem schon wieder? Stand 18. August gibt es ab Semesterstart eine neue Komponente in AEM, mit der Videos aus Tobira eingebettet werden können; OC-AEM bleibt erhalten, um vorhandene Videos auszuspielen, wir nehmen aber keine neuen Videos mehr an.
*Umleitung von /play, etc., damit Favoriten vom alten aufs neue Videoportal weitergleitet wird

Überwachung in Skoor
--
Bei der Überwachung ist wichtig, dass die monitoring Episode ohne Shibboleth Login abgespielt werden kann ("public"). Aktuelle Überwachung ist wie folgt eingerichtet:

| Check | OC-VP |
| -------- | -------- |
| EPISODEN | https://www.video.ethz.ch/play/2e5d5cd4-fbb0-4e8f-a4c0-2711b5c9924f.html (VPURL1) |
| PAELLA | https://oc-vp-dist-downloads.ethz.ch/mh_default_org/oaipmh-mmp/a0ae70a8-fb55-4eb7-a669-856ebc4c8ce6/75f0ce8c-a41c-4311-b304-4c24270df1a7/monitoring.mp4 |
| OAIPMH | https://oc-vp-presentation01.ethz.ch/oaipmh/mmp?verb=GetRecord&metadataPrefix=matterhorn&identifier=a0ae70a8-fb55-4eb7-a669-856ebc4c8ce6 |
| HTTP | https://oc-vp-dist-downloads.ethz.ch/mh_default_org/oaipmh-mmp/a0ae70a8-fb55-4eb7-a669-856ebc4c8ce6/551e3953-031f-444a-9919-85d5ffb32fb5/monitoring.mp4 |

| Check | OC.TOBIRA|
| -------- | -------- |
|EPISODEN |https://video.tobira.ethz.ch/!v/M_5WlPqv_TY |
|PAELLA |https://dist.tobira.ethz.ch/mh_default_org/oaipmh-mmp/a0ae70a8-fb55-4eb7-a669-856ebc4c8ce6/75f0ce8c-a41c-4311-b304-4c24270df1a7/monitoring.mp4 |
|OAIPMH | weg damit. dafür https://presentation.tobira.ethz.ch/paella7/ui/watch.html?id=a0ae70a8-fb55-4eb7-a669-856ebc4c8ce6 ? |
|HTTP | https://dist.tobira.ethz.ch/mh_default_org/oaipmh-mmp/a0ae70a8-fb55-4eb7-a669-856ebc4c8ce6/551e3953-031f-444a-9919-85d5ffb32fb5/monitoring.mp4 |

In einem ersten Schritt soll eine gleiche Überwachung für OC.TEST.TOBIRA eingerichtet werden.

1. Upload des monitoring Videos in einen versteckten Bereich bei OC.TEST.TOBIRA
2. Erfassung der URL's in der unten stehenden Tabelle
3. Information zu Daniel von Allmen
4. Aufbau PoC durch DA

| Check | OC.TEST.TOBIRA |
| -------- | ------------------------------------------ |
| EPISODEN |https://video.test.tobira.ethz.ch/!v/KQA_Gq8z9kZ |
| PAELLA | https://dist.test.tobira.ethz.ch/mh_default_org/engage-player/f0579ed9-0416-4556-918c-786f089f665a/64851cf9-9ec2-47a9-bf7d-826cf741103d/monitoring.mp4 |
| OAIPMH | https://presentation.test.tobira.ethz.ch/oaipmh/mmp?verb=GetRecord&metadataPrefix=matterhorn&identifier=f0579ed9-0416-4556-918c-786f089f665a - check löschen da shibboleth? gibt das mit der bibliothek keine probleme? |
| HTTP | https://dist.test.tobira.ethz.ch/mh_default_org/engage-player/f0579ed9-0416-4556-918c-786f089f665a/3af340b7-c4db-4bf9-8ef8-b89028b21b48/monitoring.mp4 |

In einem zweiten Schritt wird die Überwachung für OC.TOBIRA eingerichtet.
Roadmap:
- Juni: es gibt viele Änderungen, die Überwachung sollte aber immer funktionieren, da Hostnamen und Aliasse übernommen werden. Wartungsfenster von ein paar Tagen. DA muss nichts unternehmen.
- Juli: videoarchiv.ethz.ch in EPISODEN check übernehmen. Wartungsfenster von ein paar Tagen.
- August: Wartungsfenster für ganzen Monat?
- September: Check für OC.TOBIRA in Betrieb nehmen.

| Check | OC.TOBIRA |
| -------- | ------------------------------------------ |
| EPISODEN | https://video.ethz.ch |
| PAELLA | https://dist.tobira.ethz.ch |
| OAIPMH | https://presentation.tobira.ethz.ch |
| HTTP | https://dist.tobira.ethz.ch |

Umstellung Distributionsserver
--
Die Umstellung der Distributionsserver soll vorgängig getestet werden.

Videoportal Testumgebung: https://cms-int-pub.ethz.ch/www.video.ethz.ch/
Betroffener Alias: oc-vp-dist-downloads-test.ethz.ch

0.Evtl. opencast Uer in OC.TEST.TOBIRA neu erstellen. Müsste aber auf oc-vp-test und oc.test.tobira gemacht werden.
1. Share nas22.ethz.ch:/fs2201/id_mms_mh_sbox einbinden auf dist01.test.tobira.ethz.ch (RO) --> (NFS Berechtigung vorhanden).
--> es gibt dann aber 2x /srv/opencast
2. alias oc-vp-dist-downloads-test.ethz.ch ändern auf dist01.test.tobira.ethz.ch