# 28th Workflow Meetup (5月1日) ================================ [20200501 · manabuishii/workflow\-meetup Wiki](https://github.com/manabuishii/workflow-meetup/wiki/20200501) 2020-05-01(Fri) 13:00 - 19:00 まで。 完全リモートのため、全世界どこからでも参加可能。 # 事前計画 ## 石井 - 次回の日程をきめる - pragliを試す ## 西田 - visual studio codespaces を試す https://online.visualstudio.com/login - snakemakeでJupyterが便利に使えるようになったらしいので試す https://twitter.com/johanneskoester/status/1255515590464278529 ## 末竹 - 14:00 からしばらく別のミィーティングで抜けます - 仕事や前の研究が一旦落ち着いた気がするので、Sapporo や tonkaz の再開発と論文書くのを進めていく - 博士での研究として扱えるため、半年ぐらい腰を据えてやっていく - 今日はとりあえず、Sapporo の Service のメンテをする - GA4GH WES API が今どうなっているかをチェックする - 半年ぐらいで update されたのかどうか - data の取り扱いについて考える - input/output data の扱い - 本来は workflow engine 側で処理を行ってくれると嬉しい部分だが、WES 側で処理をしてあげると、汎用性が上がりそう - Sapporo Web の方も update したい - Vue.js 力が上がったためそっちに update する - どこまでやるかの構想だが、Web 自体はあくまで wrapper と user 管理ぐらいまでにとどめておく - Workflow repo. と WES を結合することに関しては、別プロジェクトとして最初から public service only として作り始めたほうが楽そう ## 尾崎 - scRNA-seq解析ワークフローでしようしている[ReadCoverage.jl](https://github.com/bioinfo-tsukuba/ReadCoverage.jl)のバグ取り - [scRNA-seq解析ワークフロー(Nextflow)](https://github.com/rikenbit/RamDAQ)をnf-coreに登録するための必要な仕様を調べ、実際に必要な作業をリストアップする - https://nf-co.re/ - 17:00-18:00はスーパーに買い物に行きます # 次回 [20200601 · manabuishii/workflow\-meetup Wiki](https://github.com/manabuishii/workflow-meetup/wiki/20200601) 基本完全リモートを予定 2020-06-01(Mon) 13:00-19:00 完全リモートのため、全世界どこからでも参加可能。 # こうなりました ## 石井 - いくつか事務処理をおこなった - Slack の見落としへの対策ってなにかありますかね? - あきらめるというのがよいのかもしれない。 - チャンネル整理?(直接的ではないが) - 西田さんに紹介してもらって、Visual Studio Codespaces(旧Visual Studio Online) - [Visual Studio Online](https://visualstudio.microsoft.com/ja/services/visual-studio-online/) - [Introducing Visual Studio Codespaces: cloud\-hosted development for wherever you’re working \| Visual Studio Blog](https://devblogs.microsoft.com/visualstudio/introducing-visual-studio-codespaces/) - Docker compose version 3 から `healthcheck` が変わっていることを末竹さんに教えてもらう - [Compose file version 3 reference \| Docker Documentation](https://docs.docker.com/compose/compose-file/#healthcheck) - おもしろそうなトピックだとおもったもの - dockstore - [Dockstore](https://dockstore.org/) - nf-core - [nf\-core](https://nf-co.re/) - ngrok - [ngrok \- secure introspectable tunnels to localhost](https://ngrok.com/) - パイプラインの個別化?特定分野化?が進む可能性について ## 西田 - visual studio codespaces はまだ使いものにならない - sessionがぶちぶちきれる - (石井追記:相当頻繁にきれる) - python extとかの特殊なレンダリングを行う画面は共有できない。普通のコード編集とターミナルしか共有できない。 - 普通のコード編集とターミナルはGoogle Docsみたいに使える。これだけでいいなら便利かも。sessionがぶちぶちきれるけど。 - Azure イン オープン プランのライセンスのクレジットをcodespaces用に使うことができなかった。(ただこれはずっと難儀しているAzureでのアカウント切り替え自体がうまくできないことによるものかもしれない。) - https://snakemake.readthedocs.io/en/stable/snakefiles/rules.html#jupyter-notebook-integration やってみたんですが... - 何も考えずやってみたものの「あれ、これって何かうれしいか?...」 - むしろエラー時Jupyterのどの行のエラーかわからなかった... - どういう時うれしいかわかりませんでした -> 末竹さんに聞いて何となくわかったがかなり微妙なとこ。言語化できず。 - (石井追記:末竹さんいわく、「パイプラインデベロップメントのときは便利なんではないか?」。まだでてきたばかりなので、時期尚早だった可能性がある。) ## 末竹 - GA4GH WES - https://github.com/ga4gh/workflow-execution-service-schemas - 最後の Commit が Apr 3, 2019 - 進んでないですねぇ。。。 - 最新の Issue とか PR を見る感じ昨年出した Sapporo 側からの issue が反映されている - https://github.com/ga4gh/workflow-execution-service-schemas/issues/146#125 - Sapporo Service - https://github.com/ddbj/SAPPORO-service - branch がとっちらかってる - merge した - issue とか PR も - 解決した - Workflow Engine - cwltool - snakemake - cromwell - nextflow - toil - merge 作業する前に、test とか CI を導入することにする - GitHub action - 多分、今日はこの作業で終わると思われる ## 大田(エア) - 祝日に入る前に買い出しに行きますんでコール入れなくてすみません - 珍しく(?)本業の BioSample RDF の整備をしていました - Turtle validator がエラーを吐きまくるので見に行ったらサンプル情報の登録時に特殊文字を入れる不届き者がたくさん見つかった - 全部エスケープしたり泥臭いことをして頑張っている - 特定の条件で検索してそのFASTQを全部取ってくるWFの実装までいけるだろうか、がんばりたい - 遊舎工房からキットが届いたので週末遊びます ## 丹生 - 随分前に送った PR [schema_salad#296](https://github.com/common-workflow-language/schema_salad/pull/296) を close した - 修正前の挙動が仕様として正しかった - 出力が非常にまぎらわしい ```console $ schema-salad-tool ../common-workflow-language/v1.0/CommonWorkflowLanguage.yml error.cwl /Users/tom-tan/.pyenv/versions/3.8.0/bin/schema-salad-tool Current version: 4.3.20190604170443 ../../error.cwl:11:5: checking item ../../error.cwl:11:5: Field `class` contains undefined reference to `file:///Users/tom-tan/DockerRequirementXX` ../../error.cwl:40:7: Field `location` contains undefined reference to `file:///Users/tom-tan/args.py` Document `/Users/tom-tan/error.cwl` failed validation: ../../error.cwl:3:1: Field `cwlVersion` contains undefined reference to `file:///Users/tom-tan/v1.0a` ``` - 前半2つは警告だが、ぱっと見るとエラーハンドリングしそこねたみたいに見える… ## 尾崎 - scRNA-seq解析ワークフローで使用している[ReadCoverage.jl](https://github.com/bioinfo-tsukuba/ReadCoverage.jl)のバグ取りが終了した - Julia (BioJulia) はどんどん仕様変更してつらい - nf-core の調査は全くできなかったです - [Guidelines](https://nf-co.re/developers/guidelines) - "The aim of nf-core is to have standardised best-practice pipelines. To ensure this standardisation, we maintain a set of guidelines which all nf-core pipelines must adhere to." - "Different pipelines should not overlap one another too much. For example, having multiple choices for tools and parameters to do the same tasks should be contained in a single pipeline with varying parameters. However, if the purpose of the pipeline tasks and results are different, then this should be a separate pipeline." - https://nf-co.re/scrnaseq - https://nf-co.re/smartseq2 - RamDAQの結果を動かせるようにしたい - Jupyter の widget? [Simple Widget Introduction — Jupyter Widgets 7.5.1 documentation](https://ipywidgets.readthedocs.io/en/latest/examples/Widget%20Basics.html#Unlinking-widgets) - Plotly のウェブインターフェース用 - https://github.com/optuna/optuna/blob/master/optuna/visualization/plotly_imports.py - https://github.com/optuna/optuna/tree/master/optuna/visualization - Plotly の custom controls - https://plotly.com/python/#controls - https://plotly.com/r/#controls - Mac の Magic Keyboard を2台並べて使いはじめました。胸が開いた気がします。 - [ ] Magic trackpad 複数